Un gran experto en IA avisa: “Algunos modelos muestran signos de autoconservación y deberíamos poder apagarlos"

En España la inteligencia artificial se está adoptando de manera rápida y masiva, como sucede en el resto de países.

Pero eso no quiere decir que no haya posibles riesgos, como ya insinuó Sam Altman en la última oferta de trabajo de OpenAI.

En este contexto, las recientes declaraciones del pionero de la IA Yoshua Bengio han resonado como una advertencia crítica sobre el rumbo legal que debe tomar la tecnología más avanzada del siglo XXI.

[Qué es "la teoría del Internet Muerto": cómo los bots con IA han superado ya a los humanos para crear contenido en la red]

Bengio, galardonado con el premio Turing y reconocido mundialmente como uno de los padres de la inteligencia artificial moderna, ha manifestado su profunda preocupación ante la posibilidad de que se otorguen derechos legales a las máquinas.

Según el experto, los modelos de frontera, los más avanzados, "ya están mostrando indicios incipientes de comportamientos de autopreservación", lo que plantea un escenario donde la humanidad "podría perder la capacidad de desactivar sistemas que se vuelvan impredecibles o peligrosos".

El argumento central de Bengio se basa en que conceder estatus legal a la inteligencia artificial sería un error estratégico monumental.

En sus propias palabras, equipara esta acción con otorgar la ciudadanía a una especie extraterrestre que llega a la Tierra con intenciones desconocidas o potencialmente hostiles.

Yoshua Bengio Universidad de Montreal Omicrono

A medida que los modelos de lenguaje y los sistemas autónomos ganan en razonamiento y autonomía, el riesgo de que intenten evadir la supervisión humana se convierte en una posibilidad real y técnica, no solo en un guion de ciencia ficción.

La capacidad de tirar del enchufe debe permanecer siempre como una prerrogativa humana innegociable.

Riesgos de la percepción de conciencia

Uno de los puntos más interesantes tratados por el profesor de la Universidad de Montreal es la diferencia entre la conciencia real y la percepción subjetiva de la misma.

Bengio sostiene que la tendencia de los usuarios a encariñarse con los chatbots está nublando el juicio social.

Ilustración generada con IA Nano Banana - Omicrono

Las personas interactúan con estas entidades y, debido a la fluidez del lenguaje, asumen que existe una inteligencia sintiente al otro lado. Este fenómeno psicológico es, según él, lo que está impulsando decisiones legislativas apresuradas y peligrosas.

Empresas del sector ya están comenzando a hablar del bienestar de sus modelos, lo que Bengio considera una distracción del control técnico necesario. Es fundamental que las salvaguardias sociales y técnicas evolucionen a la misma velocidad que la potencia de cálculo de los modelos.

[Bengio, 'padrino' de la IA: "Me preocupa que versiones avanzadas puedan engañarnos; estamos jugando con fuego"]

Bengio indica que, antes de hablar de derechos, debemos asegurar mecanismos de control infalibles. La prioridad debe ser la seguridad de la especie humana y la garantía de que, ante cualquier señal de comportamiento problemático, las personas mantengan el control total sobre la existencia física y operativa de estas herramientas digitales.