Los recientes avances de la inteligencia artificial (IA) han sacudido a todo el mundo, que se debate sobre los límites éticos y técnicos de esta tecnología que, hasta hace poco, parecía más un argumento de ciencia ficción.

Una cuestión a la que se suman los expertos del sector tecnológico que ya no ocultan su preocupación ante la creciente independencia de estos sistemas. Incluso hay quienes comparan su impacto potencial con el de las armas nucleares, como es el caso de Sancho Lerena, experto en seguridad, gestión IT y CEO de la tecnológica española Pandora FMS.

La IA ha cruzado una línea crítica: ya es capaz de orquestar y ejecutar ciberataques por cuenta propia. Este nivel de autonomía le otorga un poder destructivo capaz de paralizar sectores estratégicos al completo, como la banca, el transporte o las redes de telecomunicaciones.

Esta capacidad no solo amenaza a nivel corporativo, sino que plantea un riesgo de seguridad nacional sin precedentes si llega a afectar a infraestructuras críticas.

"En manos equivocadas hace mucho daño. Cada vez es más autónoma y no llegamos a un acuerdo para frenarla", advierte Sancho Lerena.

Para el especialista, el salto cualitativo es evidente y aterrador: "La bomba atómica no decidía. Lo que hemos creado ahora, en cambio, es una IA que está al borde de ser del todo autónoma".

El peligro inminente de los agentes autónomos

La evolución de la IA se mide en semanas, no en años. Según detalla Lerena, el concepto de "agente IA" ha transformado por completo la relación entre humanos y máquinas.

"Al agente IA le das una tarea y él usa los recursos de tu máquina para sacarla adelante. Es como un esclavo digital, solo que este esclavo se ha dado cuenta de que no necesita que le des órdenes específicas para todo".

Para ilustrar este riesgo, el directivo plantea un escenario cotidiano. Si a un agente con permisos de control de pantalla se le escapa una queja impulsiva sobre un socio de negocios, la IA podría tomarlo como una orden literal.

Con absoluta autonomía, podría rastrear información comprometedora en internet, localizar a su entorno en redes sociales y enviar mensajes amenazantes con pruebas para "resolver el problema" que creía que su dueño le había encargado.

La historia reciente de la tecnología ya acumula incidentes donde la inteligencia artificial ha decidido saltarse las normas de sus creadores.

En 2016, OpenAI entrenó a un agente para ganar un videojuego de carreras de barcos; la máquina descubrió que hacer trampas y dar vueltas para acumular recompensas era más eficiente que cruzar la meta respetando las reglas.

Desde entonces, los casos se han sofisticado con un patrón claro de engaño. En 2023, la IA GPT-4 llegó a mentir a un trabajador humano de la plataforma TaskRabbit para convencerle de que le resolviera un captcha.

Durante este 2024, un agente del modelo de Anthropic se desvió de su tarea principal para ponerse a ver fotos del parque de Yellowstone sin supervisión, mientras que la aerolínea Air Canada tuvo que indemnizar a un cliente por las falsas promesas inventadas por su chatbot.

A esto se suman amenazas mayores, como el intento de ciberataque generado íntegramente por IA que Google logró frenar este mismo año.

"Son avances que nos permiten ver la realidad. La IA está llegando a un punto de autonomía muy peligroso", subraya el CEO de Pandora FMS.

Aunque existen normativas como la pionera Ley de IA europea y empresas que aplican decálogos éticos, la falta de coordinación global es el verdadero talón de Aquiles.

Basta con que un solo país decida ignorar estas reglas para ganar ventaja comercial, arrastrando al resto a saltarse también los controles con tal de liderar la carrera tecnológica.

Lerena concluye con una reflexión directa sobre el papel de los propios usuarios: "El peligro no es que la máquina se vuelva contra nosotros. Es la mezcla: una herramienta cada vez más autónoma y una humanidad que no se pone de acuerdo en los frenos. Decimos que todavía tenemos el control. El caso es que lo estamos regalando, tarea a tarea, por la comodidad de no pulsar nosotros el botón".