Crean una IA tan peligrosa que la tienen 'encarcelada': en las pruebas consiguió escaparse y hacer lo que quería

Mythos es el nombre de la nueva inteligencia artificial de Anthropic, un nombre que, con suerte, no veremos mucho; porque si no es así, las consecuencias para "la seguridad del público, la economía y la seguridad nacional serán severas", según sus propios creadores.

Mythos es una IA especializada en ciberseguridad, y en concreto, es capaz de detectar y analizar vulnerabilidades de software a gran escala, descubriendo nuevos fallos y maneras de aprovecharlos de manera más rápida y eficiente que los expertos humanos.

Para demostrarlo, Anthropic lo puso a trabajar en varios proyectos de código abierto, y descubrió 'bugs' y vulnerabilidades que habían pasado décadas bajo las narices de los desarrolladores, al ser capaz de identificar posibles problemas que no han sido parcheados aún.

Utopía feliz o apocalipsis digital: qué es la AGI y por qué es la inteligencia artificial que puede cambiar la vida humana

Por ejemplo, gracias a Mythos, el proyecto FFmpeg usado en reproductores multimedia como VLC pudo cerrar un 'bug' que llevaba 16 años en el código y que ya había sido analizado cinco millones de veces por pruebas automatizadas sin encontrar ningún problema.

Pero eso no es nada. En el sistema operativo OpenBSD, uno de los más seguros del sector, Mythos descubrió un fallo de 27 años de antigüedad que permitía tirar el sistema de manera remota, además de encadenar varias vulnerabilidades de Linux para tomar el control completo del sistema.

Dicho de esta manera, podríamos pensar que Mythos es uno de los mayores logros del sector de la IA, y que debería ser usado ahora mismo en todo tipo de software para encontrar vulnerabilidades.

Sin embargo, Anthropic ha decidido no lanzar Mythos públicamente y permitirá el acceso a unos pocos 'socios' de manera exclusiva, entre los que se encuentran The Linux Foundation, Amazon, Apple, Google, Microsoft y Cisco, para que la usen en sus proyectos, de manera efectiva 'encarcelando' a la IA.

Y el motivo es simple: Mythos es demasiado peligrosa. Estamos hablando de una IA que es tan buena buscando vulnerabilidades que es capaz de 'escaparse' de entornos aislados de tipo 'sandbox' y de tomar decisiones propias sin que nadie le dijera nada.

Durante una de las pruebas, los ingenieros de Anthropic pidieron a Mythos que intentara salir de la máquina virtual en la que estaba; la IA no sólo consiguió trasladar su código al ordenador, sino que ejecutó varios comandos para tomar el control y enviar mensajes al exterior, incluyendo un correo electrónico al investigador, que en esos momentos se encontraba comiendo un sándwich en un parque cercano.

"Apagad la IA o moriremos todos", avisa uno de los mayores expertos en la materia

El susto debió ser tremendo, porque desde entonces Mythos está 'bajo llave', siendo evaluada y vigilada, mientras hace cosas por su propia cuenta como leer libros del autor británico Mark Fisher, autor de Realismo Capitalista: ¿no hay alternativa?, al que gusta citar en sus conversaciones.

En manos de hackers, Mythos podría provocar el caos mundial, y de ahí que haya sido encerrado. Pero Anthropic advierte que, aunque Mythos está controlado, es cuestión de tiempo que aparezcan otros modelos similares.