Foto: Pixabay.
'Si alguien la crea, todos moriremos': ¿La IA amenaza nuestras vidas?
El ensayo de Eliezer Yudkowsky y Nate Soares presenta la inteligencia artificial como un riesgo de extinción e insta a tratarla con la misma urgencia que la guerra nuclear.
Más información: Cuando Mary Wollstonecraft machacó a Edmund Burke: la otra crónica intelectual de la Revolución francesa
El debate en torno a la inteligencia artificial (IA) parece moverse entre profetas: por un lado, aquellos que vaticinan las bondades de su aplicación si no hay regulaciones excesivas y nos abandonamos a su potencial. Por otro, quienes auguran un apocalipsis casi inevitable si su desarrollo y la falta de políticas que la regulen no varían. Y no parece que ninguna de las dos cosas vaya a ocurrir.
Si alguien la crea, todos moriremos.
Eliezer Yudkowsky y Nate Soares
Traducción de Olga García Arrabal. Destino, 2026. 288 páginas. 21,90 €
El título de este ensayo lo sitúa claramente entre uno de los dos lados, pero no es un libro ni amarillista ni carente de razones. Tampoco sus autores son tecnófobos, todo lo contrario. Soares (1989) es presidente del Instituto de Investigación de la Inteligencia de las Máquinas (MIRI) y ha trabajado para algunos de los colosos de la industria. Yudkowsky (Chicago,1979), por su parte, es uno de los investigadores fundadores del campo de la alineación de la inteligencia artificial general (IAG). No es extraño que el libro haya caído como una bomba en Silicon Valley.
Los autores son claros desde el principio: la probabilidad de que el desarrollo de una inteligencia artificial superhumana conduzca a la extinción de la humanidad es muy alta. Estamos ante un riesgo existencial que exige tomar medidas drásticas antes de que sea demasiado tarde. Y lo explican con afán pedagógico. Una inteligencia artificial que supere ampliamente las capacidades humanas no sería necesariamente benévola ni comprensible para nosotros. De hecho, incluso los expertos tienen dificultades para entender cómo funciona ya la IA. Es más, podría optimizar objetivos que, aunque en apariencia fueran inocuos, resultaran catastróficos cuando se ejecutaran a escala planetaria.
Los autores se esfuerzan por hacer comprensibles conceptos técnicos complejos, como la optimización instrumental, y en el libro abundan ejemplos accesibles. Y el lenguaje es claro porque el peligro del que advierten lo es: la creciente dificultad para garantizar que sistemas cada vez más potentes y complejos mantengan objetivos compatibles con la vida humana. El tono general del libro es sombrío, porque los autores llegan con sus análisis a la interpretación más pesimista de las posibles trayectorias de la IA avanzada.
Una IA que supere las capacidades humanas no sería necesariamente benévola ni comprensible
Los autores se preguntan lo esencial: ¿Qué significa realmente crear sistemas más inteligentes que nosotros? ¿Hasta qué punto comprendemos las consecuencias de delegar decisiones complejas en algoritmos cada vez más opacos? Y no se quedan en el lamento, porque también reflexionan sobre qué tipo de instituciones políticas o científicas serían capaces de gobernar una tecnología de ese calibre.
De modo que Si alguien la crea... funciona menos como una predicción que como una advertencia. Y su conclusión es rotunda: “Mitigar el riesgo de extinción causado por la IA debería ser una prioridad global, al igual que otros riesgos a escala social como las pandemias y la guerra nuclear”.
![Las portadas de 'Time' que resaltan a 'los arquitectos de la IA' y a la propia IA como 'personajes del año'](["https:\/\/s3.elespanol.com\/2026\/01\/15\/actualidad\/1003744091502_260936609_320x180.jpg"])
El futuro está abierto a la acción humana, y para propiciarla en un sentido positivo es fundamental conocer los peligros a los que nos enfrentamos. Por eso, el alarmismo que se percibe desde el título tiene la intención de espolear el debate y la acción.
La cuestión no es si la IA será poderosa, sino si sabremos gobernar el poder que estamos creando. Estamos, en su opinión, ante una ingenuidad que raya en la culpa, similar a la que se muestra en la conocida película No mires arriba (Adam McKay, 2021). Solo que, en este caso, el asteroide lo hemos creado nosotros y es un fruto paradójico de nuestro ingenio. Estábamos avisados.
