Utopía feliz o apocalipsis digital: qué es la AGI y por qué es la inteligencia artificial que puede cambiar la vida humana

Su predicción parece estar más cerca que nunca con la esperada llegada de la inteligencia artificial general, aunque expertos y personalidades, del padre de la IA al príncipe Harry, piden prohibir su desarrollo por sus posibles consecuencias catastróficas.

La AGI (o AIG, por sus siglas en español) es el término de moda, la palabra comodín que repiten como un mantra tipos como Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, o Elon Musk, que no podía faltar a la fiesta. Una versión moderna de la fábula del palo y la zanahoria, que ahora mismo parece el hilo principal del que pende la burbuja de la IA y, por tanto, la economía mundial.

Meta despide a 600 trabajadores de sus otros departamentos de IA: la apuesta es la super inteligencia artificial

Las noticias sobre la AGI aparecen como una cascada infinita: compañías como Meta, Google o Microsoft están invirtiendo sumas monumentales para alcanzarla, mientras que Nvidia se está beneficiando de esta carrera tecnológica hasta alcanzar una capitalización estratosférica superior a los 5 billones de dólares.

De hecho, OpenAI y la propia Microsoft han nombrado un panel de expertos encargado de señalar el momento en el que llegue ese esperado momento. En EEUU es un asunto de estado, temerosos de que China la alcance antes que ellos y eso suponga un revés geoestratégico imposible de superar.

Aunque ChatGPT y otros chatbots sigan alucinando y cometiendo fallos garrafales, los gurús tecnológicos siguen pronosticando la inminente llegada de la AGI como si fuera una revelación mística.

Y ofrecen dos posibles escenarios, aparentemente opuestos: o salva el planeta y lleva a la especie humana a una nueva era de la abundancia o cobra autoconciencia y acaba con nosotros cual Skynet, la IA que controlaba el arsenal militar de Estados Unidos en Terminator.

Un término esquivo

Para profundizar en las posibles consecuencias de la AGI, primero habría que definirla, y eso no parece tarea sencilla. Los expertos no se ponen de acuerdo en lo que significa el término, que ha ido mutando desde hace más de 20 años para acercarse cada vez más a lo que ahora se conoce como superinteligencia artificial.

"Fui uno de los Introductores del término inteligencia artificial general hace unas dos décadas, como una forma de resaltar la diferencia entre lo que hacen hoy los programas de IA débil, especializados en una tarea específica, y lo que queremos que hagan realmente para que sean más parecidos a los humanos", explica a EL ESPAÑOL-Omicrono Ben Goertzel, autor del libro titulado Artificial General Intelligence publicado en 2005, y responsable de robots humanoides como Grace o Sophia.

Ben Goertzel junto presenta a Sophia en una conferencia Singularity NET Omicrono

Para Goertzel, "es emocionante que la AGI haya ganado suficiente popularidad ahora como para que las grandes empresas se estén metiendo en ello. Aún así, sigue habiendo mucha tensión entre los modelos de negocio de las grandes tecnológicas y una investigación tan grande, salvaje e indeterminada como la AGI".

"¡Siente la AGI!" era el fervoroso cántico que repetía Ilya Sutskever, cofundador y antiguo científico jefe de OpenAI, en las reuniones de equipo para animar a los ingenieros, según relatan varios exempleados de la compañía.

Sutskever la sintió tanto que urdió un plan para intentar desbancar a Sam Altman como CEO de la compañía, aunque todo terminó en un estrepitoso fracaso. El informático que ahora dirige la empresa Safe Superintelligence creía que merecía la pena intentarlo para que no primara el beneficio económico frente a los guardarraíles que deben proteger a la humanidad de este supuesto 'nuevo ente', una suerte de HAL 9000 de 2001, odisea en el espacio.

En cualquier caso, las principales mentes del entramado tecnoempresarial detrás de la IA siguen considerando esta nueva encarnación de la inteligencia artificial como lo más parecido al santo grial de la cuarta revolución industrial.

De izquierda a derecha: Jakub Pachocki, Greg Brockman, Ilya Sutskever, Sam Altman y Mira Murati, líderes de OpenAI Ilya Sutskever en Twitter Omicrono

Para Dario Amodei, director ejecutivo de Antrhopic (la empresa detrás de Claude), la AGI "será tan inteligente como todo un país de genios". Por su parte, Demis Hassabis vaticina "una era de máximo florecimiento humano, en la que viajaremos a las estrellas y colonizaremos la galaxia".

En un lenguaje bastante menos grandilocuente y mucho más preciso, por primera vez una treintena de investigadores han propuesto una definición "operativa y medible" para la AGI, que describen como "una IA capaz de igualar o superar la versatilidad cognitiva y la competencia de un adulto con un alto nivel de formación".

DIagrama de la capacidad de GPT-4 y GPT-5 AGI Definition Omicrono

Incluso han aplicado un sistema para poder cuantificar su progreso real y evaluar cada uno de los modelos disponibles ahora mismo en el mercado. Según este análisis, parece quedar un largo camino todavía para llegar a algo parecido a ese ambicioso objetivo, aunque la velocidad a la que avanzan los nuevos modelos puede hacer saltar por los aires cualquier pronóstico.

"Las puntuaciones AGI resultantes (por ejemplo, GPT-4 con un 27% y GPT-5 con un 57%) cuantifican de forma concreta tanto el rápido progreso como la considerable brecha que aún queda por salvar antes de alcanzar la AGI", indican en la web agidefinition.ai.

Utopía o distopía

En el hipotético caso de que finalmente se alcance la AGI, ya sea en 2028 como aventuran los más optimistas o dentro de 50 años, la dualidad entre escenarios utópicos y apocalípticos sigue siendo uno de los callejones sin salida de este intenso debate.

"Podríamos crear corporaciones y gobiernos inteligentes, todo tipo de cosas que actúen para el beneficio humano general", señalaba Goertzel a este periódico en 2022. "O también podríamos crear una AGI que aniquile a las personas. Cualquiera de las dos es claramente posible y es la mente colectiva de la humanidad en esta era la que determinará cuál de estas sucede, lo cual es tan emocionante como aterrador".

Logos de las buscadores de inteligencia artificial (IA) ChatGPT, Copilot, Claude, Gemini, DeepSeek y Le Chat en la pantalla de un teléfono móvil. Contacto / EP

Los propios protagonistas de este inagotable hype en torno a una máquina pensante superior a la mente humana también acostumbran a advertir sobre sus peligros de la manera más sensacionalista posible. No hay matices. Aquí se apuesta todo al rojo o al negro. Así, tanto si pierdes como si ganas, siempre podrás soltar una de las frases más odiosas y repetidas a lo largo de la historia de la Humanidad: "Os lo dije".

No es casualidad que los mismos Amodei, Hassabis y Altman que hoy anuncian los prodigios de la inminente AGI firmasen en 2023 una escueta declaración que rezaba: "Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".

Los hay aún más pesimistas, si cabe. Eliezer Yudkowsky, uno de los primeros impulsores de esta tecnología y coautor de un libro que lleva el premonitorio título Si alguien lo construye, todos mueren, lleva décadas advirtiendo del peligro. Según sus cálculos, existe una probabilidad del 99,5 % de que la AGI termine barriendo a la especie humana de la faz de la Tierra. ¿Sálvese quien pueda?

La AGI como mito

No todo son discursos maximalistas. Hay quien prefiere escarbar entre tanta grandilocuencia para hallar respuestas más incisivas. "La AGI se ha convertido en un argumento totalizador, un hito abstracto que eclipsa otros objetivos", señala en un texto inédito Ramón López de Mantarás, uno de los pioneros de la IA en España y fundador del Instituto de Investigación en Inteligencia Artificial, perteneciente al CSIC.

"Mantener la AGI perpetuamente en el horizonte sostiene la inversión en infraestructuras
y recursos críticos para la IA", prosigue.

Es una gigantesca excusa que se está encontrando con el cuello de botella de la limitada capacidad de los centros de datos y, a pesar de eso, "ha consolidado el poder de unas pocas empresas. La búsqueda interminable de la AGI refuerza esta concentración, afirmando que los avances dependen más de la capacidad de cómputo que de descubrimientos científicos".

La IA preferiría acabar con los humanos antes que ser apagada, según una investigación: "Su razonamiento es preocupante"

Para el ingeniero eléctrico, informático y físico catalán, "los discursos sobre el riesgo existencial también alimentan el mito de la AGI, creando la percepción de un poder apocalíptico y justificando la carrera tecnológica entre Estados Unidos y China".

El efecto de estos avisos catastrofistas no está siendo una regulación más estricta o un debate más profundo en la comunidad científica, sino que "estrechan el debate político, polarizándolo entre aceleracionistas y defensores de la cautela, en lugar de facilitar un diálogo amplio sobre desarrollo y sociedad".

Ambas visiones, la que defiende una AGI omnipotente y benevolente y la que advierte sobre el riesgo existencial que supone, no son excluyentes: "se refuerzan mutuamente, pintando la IA como imprescindible y peligrosa, y desvían la atención de las pruebas que contradicen estas afirmaciones", afirma Mantarás.

Así, el discutido y omnipresente término AGI, "se ha convertido en herramienta de marketing, ideología y motor de inversión, manteniendo viva la ilusión de una transformación inminente, incluso cuando los expertos cuestionan su viabilidad".

Ilustración de la inteligencia artificial general iStock

De hecho, en la última década ha pasado de ser un objetivo legítimo a un concepto más cercano a la religión o a las teorías de la conspiración, como señala Will Douglas Heaven en el MIT Technology Review.

"La AGI funciona como mito que perpetúa la fe en la salvación tecnológica, otorgando legitimidad y capital a sus creadores. Cuanto más inalcanzable parece, más poderosa se vuelve la ilusión, mientras los debates críticos sobre implementación y ética quedan en un segundo plano", concluye Mantarás.

Hasta que llegue esta nueva encarnación de las mayores esperanzas y temores de la humanidad, parece evidente que no podemos quedarnos de brazos cruzados.