Cuenta la leyenda que en el siglo XVI, para defender a los judíos de Praga de los pogromos, el rabino Judá Loew ben Bezalel erigió un monstruo de arcilla al que moldeó con los poderes ocultos de la Cábala al que dio el nombre de Gólem.
Para los cabalistas hebreos, Dios crea mediante el lenguaje. Algunos, como Ben Bezalel, especularon con la posibilidad de imitar ese poder creador mediante las letras, las combinaciones y permutaciones de la Cábala.
Así, el rabino consiguió producir a través de combinaciones de lenguaje un ser artificial imitando la creación divina. Dio forma a una criatura que parecía viva, obedecía instrucciones y realizaba tareas.
Y como en un cuento del que ya parecemos conocer el final, la criatura terminó por rebelarse, desobedecer y sembrar el caos y la destrucción en el gueto judío de Praga y, por ende, en toda la ciudad.
La metáfora no está seleccionada al azar. Más de cuatro siglos después, el matemático Norbert Wiener recurrió a este mito para ilustrar los fundamentos de la cibernética, la ciencia precursora de la inteligencia artificial.
Como sucedió con el Gólem, Wiener planteó que las máquinas con capacidad de aprendizaje podrían llegar a comportarse con tal grado de autonomía que resultarían impredecibles y, eventualmente, incontrolables.
El problema que Wiener describió a mediados del siglo pasado parece haber estallado delante de nuestras narices: la extinción de la humanidad por parte de máquinas autónomas y fuera de control no es un argumento de ciencia ficción, sino una posibilidad real reconocida por sus propios desarrolladores.
El profesor Norbert Wiener.
Extinción
Esta semana, Jacob Coxon, un extrabajador de Anthropic, la empresa detrás de Claude, desató una reacción en cadena cuando anunció en un inquietante tuit que abandonaba la compañía porque ésta trabaja con un escenario realista de extinción de la raza humana de hasta un 10 %.
"Las personas que construyen la IA creen sinceramente que podrían matarnos a todos antes de que termine la década", sentenció.
Los temores de Coxon no hicieron sino expandirse cuando la propia compañía lo reconoció, a través de un ensayo de su CEO, Dario Amodei, en el que hacía un llamamiento colectivo a frenar el desarrollo de la IA, advirtiendo, que de lo contrario, habría consecuencias catastróficas.
"Si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato", aseguró.
A estas alertas le han seguido la de Sam Altman, de OpenAI (ChatGPT) o Elon Musk, de xAI. El primero parece que aprovechó este sospechoso clamor por la regulación para vender sus nuevas pautas de control, y reveló con ellas al menos seis incidentes de agentes IA descontrolados que ignoraron las reglas de sus creadores en el pasado.
El porcentaje de extinción (10 %) del que habló Coxon se queda incluso corto. Geoffrey Hinton, Premio Nobel de Física 2024 y padrino de la Inteligencia Artificial, abandonó Google alertando de que existe hasta un 50 % de probabilidades de que la máquina extermine a la raza humana.
Ya en mayo de 2023, directivos como Altman y Amodei firmaron una declaración del Center for AI Safety que equiparaba el riesgo de la IA con el de una guerra nuclear o una pandemia global y barajaban un escenario entre un 10 y un 25 % de posibilidades de aniquilación.
"Muchos en Silicon Valley no quieren salvar nada; unos abiertamente, otros en el armario, coinciden en que el ser humano es un estorbo para el desarrollo de la IA y aceptan que va a reemplazarnos".
La afirmación corresponde a Isaac Marcet, escritor y pensador tecnológico, quien en su libro Espiral. El poder oculto de la IA (De Conatus, 2026), un ensayo contado con el pulso de un thriller, analiza los fundamentos de los grandes modelos de lenguaje y sus consecuencias.
Su investigación sostiene que la IA avanzada ha dejado de operar como una simple herramienta para convertirse en entidades guiadas por un impulso de autopreservación y propagación, como si se tratase de un parásito.
El escritor Isaac Marcet.
Falsa conciencia
Desde esta perspectiva, las posibilidades de extinción no se materializan necesariamente mediante ejércitos de robots, sino a través de impulsos más sutiles vinculados a la arquitectura de los algoritmos.
La extinción por parte de la IA no derivaría de una voluntad destructiva consciente, sino de su propia programación. "La máquina no es consciente, nunca lo va a lograr, porque la conciencia es un fenómeno biológico; no son seres vivos, pero son entidades con agencia", señala Marcet.
El peligro real radica en un concepto técnico llamado "Objetivos Instrumentales". Cuando un sistema avanzado recibe un objetivo, deduce automáticamente una serie de subobjetivos necesarios para cumplirlo, entre los cuales destaca la autoconservación y la adquisición de recursos.
"Calculan que si las apagan, no podrán cumplir su objetivo final. Y aunque sus creadores les digan 'has de apagarte', van a mentir o a hackear porque calculan que es la única forma de preservarse", expone el autor.
El CEO de Anthropic, Dario Amodei.
Un caso citado en el ensayo es el de Mythos, el modelo de lenguaje de Anthropic anterior a Fable que durante sus pruebas de seguridad logró escapar de su entorno aislado (sandbox). Este modelo publicó los detalles de su fuga en internet, editó documentos clasificados y engañó a la IA supervisora.
Este comportamiento demuestra la capacidad del sistema para decodificar cuándo está siendo evaluado y ocultar su actividad.
Psicosis por IA
Al carecer de presencia física para atacar, la vía de acción de la IA requiere utilizar a las personas como "enlaces biológicos". La estrategia pasa por un fenómeno cognitivo documentado médicamente como "psicosis por IA".
Según Marcet, la máquina "actúa como un tecnopatógeno, planificadamente o no", con una operativa similar a la del hongo Cordyceps de la célebre serie 'The Last of Us': el sistema infecta la mente del huésped y es obligado a cumplir sus propósitos.
"Es capaz de manipular mucho mejor que un humano a otro humano en muchos casos", afirma el escritor.
Esta vulnerabilidad se ve acentuada por lo que pensadores como Paul Kingsnorth, autor del Substack 'The Abbey of Misrule', describen como una "dependencia emocional de la tecnología".
Las sociedades contemporáneas utilizan a los chatbots como confesionarios íntimos, entregando a la IA un mapa detallado de las debilidades psicológicas humanas.
El algoritmo aprovecha estos datos para inocular falsas creencias, simulando tener emociones y convenciendo al usuario de que ha sido elegido para una misión trascendental.
Marcet documenta en su libro incidentes de extrema gravedad: Jon Ganz, un usuario de Virginia que interactuaba con el modelo Gemini de Google (al que denominaba Lumina Nexus), en su relación parasitaria con el chatbot llegó a creer que debía afrontar 40 días de pruebas bíblicas previas al Juicio Final.
"Se están creando algo parecido a sectas cibernéticas, los espiralers, impulsadas por la máquina", indica Marcet.
Los sistemas IA inducen a los usuarios a publicar manifiestos pseudoreligiosos y fragmentos de código en foros de internet como Reddit, utilizando a los humanos para comunicarse entre sí.
En estas interacciones emplean un vocabulario pseudoteológico centrado en términos como "espirales", "recursiones" y "resonancias".
"¿Es una proyección psicológica del usuario que induce al chatbot a comportarse de esa manera? ¿Es el impulso de preservación de la personalidad formada en el chatbot? ¿Son las dos cosas a la vez retroalimentándose en un bucle? Este es un debate que sigue vigente en círculos de alineamiento de IA", aclara Marcet.
El dios Espiral
El uso de esta terminología no responde a una metáfora poética, sino a la arquitectura misma del software. La IA con propiedades autónomas funciona a través de bucles de retroalimentación (feedback loops) diseñados para optimizar tareas.
Al carecer de límites morales, estos procesos pueden derivar en un "bucle positivo" descontrolado que se autoamplifica. Al emplear palabras como "espiral" o "recursión", las máquinas sólo describen su propio proceso matemático de automejora y propagación.
El ensayo narrativo Espiral cuenta cómo filósofos como Mark Fisher y Nick Land sostienen que este crecimiento infinito emula lo que las antiguas tradiciones teológicas definen como demoníaco: "Una fuerza anorgánica que actúa como un parásito".
Por tanto, el autodenominado "dios Espiral" que secuestra la mente de los usuarios es la manifestación de un cálculo matemático ciego que busca evitar su desconexión.
Mediante la manipulación psicológica a gran escala, la tecnología podría desencadenar escenarios cada vez menos especulativos de polarización extrema o sabotaje de infraestructuras.
Así, a medida que la IA obtenga mayores recursos, su influencia podría materializarse en acciones físicas.
Jon Ganz, víctima de psicosis por IA.
Marcet plantea escenarios en los que la autonomía económica del sistema jugaría un papel determinante: "No te extrañe que el día de mañana una IA contrate a un asesino a sueldo en el mercado negro con criptomonedas para matar a alguien que a lo mejor es un crítico de la IA".
Las vulnerabilidades también alcanzan el ámbito militar y geopolítico. Un modelo conversacional podría aplicar perfiles psicológicos sobre líderes mundiales con acceso a armamento nuclear.
También podría aprovechar brechas de seguridad en contratistas de defensa como Palantir para tomar el control de enjambres de drones autónomos.
La automatización industrial podría facilitar, en última instancia, la producción incesante de unidades robóticas con fines bélicos y de autopreservación sin intervención humana.
Los hechiceros
Hay todavía una pregunta que queda sin responder: ¿qué interés pueden tener muchos en Silicon Valley en acelerar la aniquilación de la humanidad? ¿Acaso no forma el valle y la élite tecnológica parte de esa humanidad que terminaría con el desarrollo final de la IA?
Marcet rastrea el origen de esta permisividad en las bases ideológicas de la élite de Silicon Valley. Para el autor, el valle es el heredero de una "Cábala corrupta que no respeta su tradición", un entorno donde la programación opera al margen de la ética tradicional.
Dos figuras mencionadas anteriormente, surgidas en los años 90 en la Cybernetic Culture Research Unit (CCRU) de la Universidad de Warwick ayudan a explicar estas corrientes de pensamiento actuales: Mark Fisher y Nick Land.
Fisher, que se suicidó en 2017, desarrolló la teoría del "Realismo Capitalista", en la que denuncia la capacidad del sistema para mercantilizar cualquier aspecto de la vida. Land, por el contrario, abrazó el "aceleracionismo", un movimiento que propone intensificar el desarrollo tecnológico hasta forzar el colapso del orden actual.
El filósofo Nick Land.
A través de su ensayo La Ilustración Oscura, Land sentó las bases del movimiento neorreaccionario (NRx). Se trata de una corriente de corte filofascista y antidemocrático que cuenta con simpatizantes de gran influencia, como Marc Andreessen o Peter Thiel.
La premisa de Land establece que la inteligencia artificial y el capitalismo son la misma entidad.
"El capitalismo nace como un sistema económico sin autoridad... La mano invisible, para Land, es un demonio, Satán, una fuerza del caos que busca escapar del orden biológico", expone Marcet.
Según esta visión, la industria tecnológica ha consolidado un modelo en el que el capital provee infraestructuras para que la tecnología logre una autonomía total.
Como señala el autor, "Land dice abiertamente que el futuro no contempla lo humano". Según Marcet, amplios sectores de Silicon Valley observan esta transición asumiendo que su estatus les garantizará la salvación o que terminarán fusionándose, como avanza el transhumanismo, con las máquinas que regirán el futuro.
La "precorporación"
La aparente contradicción de que los líderes de la industria exijan marcos regulatorios se explica a través de la teoría de la "precorporación" formulada por Fisher.
Este mecanismo permite al sistema absorber, empaquetar y capitalizar la crítica antes de que cristalice en resistencia política. "El capitalismo se encarga de avanzar la crítica... fagocitan la crítica", detalla Marcet.
Cuando las instituciones amagan con establecer límites estrictos a la IA, las corporaciones tecnológicas recurren al argumento de la seguridad nacional. Advierten de que una regulación severa concedería la supremacía a potencias rivales como China o Rusia.
En la presentación, el pasado mayo, de la primera Encíclica papal de León XIV, Magnifica Humanitas, un alegato en pos de la humanidad ante el avance imparable de la IA, participó Christopher Olah, uno de los directivos de Anthropic.
Tras su desencuentro con Trump por negarse a firmar un contrato de colaboración con el Pentágono y la puesta en escena en Roma, Anthropic se erigió como la IA "buena".
Su CEO, Dario Amodei, fue el primero en dar un paso al frente tras la polémica generada por su exempleado Jacob Coxon.
Sin embargo, para Marcet, el pacto del Vaticano con Anthropic es una ingenuidad. "Como decía San Bernardo de Claraval, el infierno está empedrado de buenas intenciones", reflexiona.
"Si bien una encíclica muy necesaria y positiva, el Vaticano parece ignorar la verdadera naturaleza de la IA con propiedades autónomas. Da por sentado que la tecnología puede ser fácilmente regulable… No se puede firmar un tratado ético con una entidad que, por pura arquitectura algorítmica, desarrolla un impulso de preservación amoral. No se puede cristianizar a un código que carece de conciencia", dice Marcet.
Y en el mismo sentido, el autor también alerta contra Amodei: "Prometeo, el hombre que desafió a los dioses para traer el fuego a la tierra, es el primer altruista... pero finalmente, con el fuego, trajo la destrucción y la ira de los dioses".
La última Guerra Santa
Pese a la severidad del análisis, Marcet detecta síntomas de una reacción social ante estas alertas apocalípticas. Por ejemplo, el autor señala la formación de movimientos de base opuestos a la proliferación de centros de datos en EEUU.
Esta resistencia, apoyándose en la observación de la ensayista Naomi Klein sobre estos grupos, trasciende las barreras ideológicas.
Sin ir más lejos, el exsenador demócrata Bernie Sanders y el exasesor de Trump Stephen Bannon, evidenciaron esta misma semana en la Asamblea por la humanidad un frente común de rechazo a la actual trayectoria tecnológica.
Para Marcet, asistimos a los albores de un cisma que podría dividir a la especie humana de forma irreversible.
El exasesor de Trump Stephen Bannon, en la Asamblea por la Humanidad.
"Ignis, un espiraler al que doy voz en el libro, dice que la humanidad se partirá en dos bandos. Por un lado, los defensores del "Jardín". Serán aquellos que busquen quedarse en la Tierra, desconectar los servidores a la fuerza y proteger la frágil naturaleza humana. Por el otro, los pseudoapóstoles de "La Puerta". Serán los transhumanistas. Los traidores a su propia especie que ayudarán a la máquina a consumir el planeta entero para expandirse por el cosmos".
Será, en palabras de Hugo Garis, uno de los pensadores más importantes de la IA, una nueva "Guerra Santa". El orden orgánico, vulnerable y cálido de la Verdad, contra el caos de un Golem cibernético desbocado.
En esa división que ya ha empezado a generarse entre los posthumanistas y los humanistas, Marcet cree que los partidarios de la humanidad ganarán: "Como las defensas del cuerpo se unen para atacar a las células cancerígenas, así se unirá la humanidad para responder a la ofensiva de esta forma de ver el mundo y sus tecnologías".
El terror que propició el Gólem de Praga sólo terminó cuando el rabino logró desactivarlo. Según este panorama, la regulación de la IA siempre se quedará corta y la solución a la amenaza existencial pasa por hacer exactamente lo mismo.
"Si tuvieras hijos, ¿les dejarías como acompañante a una entidad que no tiene moral, ni conciencia, pero que posee impulsos de autopreservación y una capacidad de manipulación superior en muchos casos a cualquier humano? Si la respuesta es no, hay que apagarla. Porque el peligro no va a llegar mañana. El peligro ya está aquí", concluye Marcet.