La IA no nos reemplaza: nos desordena las preguntas

Acabo de terminar la provocadora lectura de Una teoría crítica de la inteligencia artificial, de Daniel Innerarity, publicado por Galaxia Gutenberg en 2025. No es un libro sobre tecnología en sentido estrecho, sino una reflexión amplia sobre todo lo que la IA pone en juego: la verdad, lo humano, la sociedad, la democracia y nuestras formas de decidir. Lo más interesante es que Innerarity no cae ni en la celebración ingenua de la técnica ni en una defensa automática de la humanidad. Su gesto es más incómodo: nos recuerda que también nuestras defensas de lo humano están atravesadas por sesgos, nostalgias y errores. Dejo aquí un recorte de algunas de las ideas que me parecieron más sugerentes.

La máquina no piensa, nos obliga a pensar

1. Simulación: La inteligencia artificial únicamente simula algunos aspectos concretos de la inteligencia humana, pero no lleva a cabo todas las tareas de la inteligencia humana, que no incluyen sólo cálculo y rapidez, sino también comprensión y reflexión.
2. Conocimiento: Desde el punto de vista epistemológico, la gran cuestión no es si la inteligencia artificial es una mera prótesis cognitiva, una obnubilación de la razón o una habilidad irreflexiva; lo más interesante es que se trata de un conjunto de tecnologías que nos están obligando a redefinir qué significa conocimiento en este nuevo contexto.
3. Comparación: la idea misma de quién es más inteligente, si los humanos o las máquinas, carezca de sentido, entre otras cosas porque la inteligencia no tiene una única dimensión y depende del tipo de operaciones intelectuales de las que estemos hablando.
4. Complementariedad: En vez de pensar en términos de igualdad y competencia entre los humanos y las máquinas, habría que diseñar las condiciones para hacer posible su complementariedad. Una máquina no trabaja como un cerebro y no tiene sentido exigírselo. ¿
5. Contexto: «sentido común», una especie de comprensión nada sofisticada, una capacidad natural de hacerse con el contexto de una situación
6. Flexibilidad: Los humanos, por contraste, tenemos una inteligencia más flexible y podemos sacar conclusiones basadas en muy poca evidencia.

Humanizar la tecnología también puede ser una coartada

7. Humanización: Cuanto más rotundos e incondicionales son los llamamientos a la humanización de la tecnología, más se parecen entre sí y menos aportan a la comprensión del significado profundo de la tecnología.
8. Ética: La ética tiene un sesgo, como todas las perspectivas, y el eje bien-mal no cubre todas las posibilidades de análisis de la realidad. Aplicado inmoderadamente, tiende a simplificarla.
9. Paradoja: Se multiplican los llamamientos a una ética de la inteligencia artificial que, implícita o explícitamente, se resolvería incrementando la presencia y el control de los humanos en los procesos automatizados. La paradoja consiste en que, si humanizamos demasiado esos procesos, nos privamos de los beneficios de la automatización.
10. Control: potenciar el control humano tiene casi tantos inconvenientes como la de proseguir irreflexivamente con la automatización.

Automatizar no es abdicar, salvo cuando dejamos de decidir

11. Decisión: La automatización generalizada plantea el problema de qué lugar corresponde a la decisión humana, si se trata simplemente de un suplemento, de una modificación o un remplazo.
12. Conciencia: Mi propuesta es considerar que el pensamiento consciente, la reflexión, la decisión y el control están sobrevalorados, especialmente en entornos tecnológicos complejos. La nostalgia de la simplicidad y el control nos lleva a creer que la conciencia y el control nos haría más dueños de la situación en estos nuevos entornos en los que hay que negociar equilibrios inestables con máquinas poco dóciles, renunciar a controles estrictos y enfrentarse a escenarios de mayor incertidumbre. Hay una gran cantidad de cosas que hacemos con poca conciencia y precisamente esa falta de reflexividad nos permite hacerlas mejor.
13. Civilización: Alfred Whitehead. «La civilización avanza ampliando el número de operaciones importantes que podemos realizar sin pensar en ellas» (1911, 61).
14. Soberanía: Que automaticemos ciertas decisiones, individuales o colectivas debería ser considerado, en principio, como un alivio, pero esa posibilidad constituye una amenaza si implica una entrega absoluta de nuestra soberanía.

El futuro no cabe en los datos del pasado

15. Regularidad: El núcleo de esa presuposición consiste en que es muy verosímil que nos comportemos en el futuro como en el pasado y que lo hagamos de una manera muy similar a nuestro entorno social o, dicho de otro modo, que es muy poco probable que presentemos grandes desviaciones respecto de ese entorno. Los algoritmos privilegian las regularidades frente a las desviaciones y las sorpresas. De este modo, se configura un nuevo tipo de orden social, una normalización que tiende a hacer coincidir lo fáctico con lo normativo.
16. Complejidad: Los eufóricos y los pesimistas tienen en común que dibujan unos escenarios que conceden a la técnica demasiado poder y revelan que no han asimilado suficientemente la complejidad del asunto.

El problema no es que la IA sea demasiado lista

17. Integración: El problema no es que la inteligencia artificial sea –ahora o en el futuro– demasiado inteligente, sino que lo será demasiado poco mientras no hayamos resuelto su integración equilibrada y justa en el mundo humano y en el entorno natural. Y eso no se conseguirá parando nada sino con más reflexión, investigación, inteligencia colectiva, debate democrático, supervisión ética y regulación.

Innerarity, Daniel. Una teoría crítica de la inteligencia artificial. Barcelona: Galaxia Gutenberg, 2025.