La inteligencia artificial nunca será comparable a la humana: la reflexión sin histerias de Daniel Innerarity

Una teoría crítica de la inteligencia artificial

Daniel Innerarity

Galaxia Gutenberg, 2025
552 páginas. 24 €

No es casualidad que sobre este contexto y esta nueva herramienta tecnológica que ya impacta en nuestras vidas reflexione el filósofo político Daniel Innerarity (Bilbao, 1959) en este libro, merecedor del tercer Premio de Ensayo Eugenio Trías. Su obra, tanto la volcada en libros (como Una teoría de la democracia compleja, La sociedad del desconocimiento o La libertad democrática) como aquella publicada regularmente en prensa, ha prestado atención a la complejidad creciente de una realidad que se resiste a ser encasillada en categorías binarias. La misma simplificación analítica que caracteriza la mirada hacia la IA y su despliegue generalizado.

Según Innerarity, las posiciones habituales en la discusión parten de errores de base. Por un lado, el enfoque que en ocasiones denomina de "histérico" respecto a los potenciales peligros que dicha tecnología podría conllevar, algo que llevó hace dos años a algunos de sus principales impulsores a solicitar una moratoria en su desarrollo. Pero ¿por qué renunciar a los progresos evidentes que la IA aporta en campos como la medicina, la logística o la biotecnología?, se pregunta el autor.

Por otro, están aquellos que opinan que el problema no estaría en la tecnología en sí, sino en la falta de una ética que la sustente. Pero, de nuevo, la ética es un campo de reflexión demasiado estrecho para una herramienta cuyo potencial disruptivo abarca muchos más campos, empezando por el de la política en general. El enfoque moralizante tampoco sirve.

Innerarity no es equidistante, pues no propone una síntesis de ambas posiciones, sino que eleva el tiro y la ambición y describe lo que denomina una "teoría crítica" no tanto de la IA como de las condiciones estructurales en las que se desarrolla y funciona. Porque "el problema no es que la inteligencia artificial sea demasiado inteligente, sino que lo será demasiado poco mientras no hayamos resuelto su integración equilibrada y justa en el mundo humano y en el entorno natural".

Joan Álvarez: "Nuestro gran desafío es crear una inteligencia artificial que ‘piense’ en español"

Algo que solo se consigue con más investigación y debate democrático. Pues, en palabras de Innerarity, "antes que normativo, el desafío al que nos enfrentamos es un problema conceptual". Así, la ideología de la era de la razón algorítmica no peca tanto "de ocultación deliberada" como de "irreflexividad".

Y a reflexionar dedica el autor este ensayo que divide en tres partes. La primera busca aclarar los supuestos de partida que moldean el debate y condicionan los análisis. Empezando por el propio concepto de inteligencia o de lo humano. La IA no podrá ser nunca comparable a la inteligencia humana pues carece de comprensión y sentido, aquello que nos distingue como humanos.

Solo desde una visión muy estrecha de lo que significa inteligencia se puede llegar a concebir una Inteligencia General Artificial (AGI) capaz de alcanzar la "singularidad" de Von Neumann, la "superinteligencia" de Bostrom o el "supremacismo digital" de Balkin, es decir, la verosimilitud de que las máquinas puedan un día igualar e incluso superar a la inteligencia humana".

Para explicar mejor su análisis expone el ejemplo de la IA generativa basada en los Modelos Grandes de Lenguaje (LLM) detrás de herramientas de uso cotidiano como ChatGPT de OpenAI, Gemini de Google, Claude de Anthropic o Llama de Meta, entre otros. Al fin y al cabo, son modelos que, por obstáculos inherentes a su desarrollo, están "alimentados" por información no solo producida por seres humanos (y, por tanto, tan falible como ellos), sino, por definición, pasada.

La mirada de Innerarity ante la IA mezcla curiosidad, fascinación y cautela, y es original en su enfoque

Su mirada es hacia atrás. No obstante, se echa en falta en este análisis una mención extensa de los modelos razonadores de IA, cuyo desarrollo más tardío pero muy prometedor plantea más interrogantes que los LLM respecto de la rivalidad con la inteligencia humana. Se trata de modelos capaces de analizar contextos complejos y de realizar inferencias causales. Estos debates conceptuales y epistemológicos servirían de poco sin un aterrizaje del impacto cotidiano de dichas herramientas en la realidad tal cual es.

Así, la segunda parte se centra en describir y analizar esa razón algorítmica a la que se opone su teoría crítica, y de cómo sus designios condicionan y moldean nuestras sociedades a través de modos de pensar y mirar la realidad, tales como el tecnosolucionismo o el tecnonaturalismo.

De la misma forma que es clave hablar de los retos de la automatización o el poder que se confiere a unas máquinas cuyo protagonismo amenaza con poner patas arriba no ya el mercado laboral, o los sistemas de gobierno, sino nuestro papel en el mundo. Porque, tal y como dice Innerarity, "la automatización generalizada plantea el problema de qué lugar corresponde a la decisión humana, si se trata de un suplemento, de una modificación o de un reemplazo".

Asuntos sobre los que han reflexionado recientemente José María Lassalle en Civilización artificial, el también filósofo Víctor Gómez Pin en El ser que cuenta o la física Gisela Baños en El sueño de la inteligencia artificial.

Del horror de Guantánamo a la filosofía de Sócrates: la poesía experimental y libre de Anne Carson

La tercera parte se centra en el impacto de la IA en la gobernanza política y en los retos que plantea para nuestras democracias. Campos de estudio más habituales del autor, y en los que brilla especialmente. Al fin y al cabo, el "sistema trabaja adaptativamente y no conforme a ideas preprogramadas […] con lo que la cadena de legitimidad –sin la que no hay democracia– resulta más difícil de identificar". Algo que provoca que "tengamos un problema de ininteligibilidad, debido a que no está claro quién decide y es responsable en un entorno cada vez más automatizado".

La mirada de Innerarity ante la IA mezcla curiosidad, fascinación y cautela, y es original en su enfoque, ni derrotista ni ingenuo, ante un fenómeno cuyo potencial benéfico o destructor dependerá, primero, de nuestra capacidad de entender bien el fenómeno y sus implicaciones (algo a lo que nos ayuda este libro), y, segundo, de nuestra capacidad colectiva de actuar para aprovechar en nuestro beneficio una tecnología que deberíamos mirar y adoptar sin los determinismos proféticos con los que muchas veces se nos anuncia.

La IA, lejos de simplificar el mundo, profundiza en su complejidad y, por tanto, en la necesidad de pensar y reflexionar. Precisamente, aquello que (al menos todavía) no pueden hacer las máquinas.