Detrás de prácticamente todos los ciberataques que se producen en el mundo actualmente está la IA, sin exagerar. Además del impacto que el avance de esta tecnología está teniendo para el mundo de la ciberseguridad, se abre una nueva necesidad global: establecer la responsabilidad jurídica ante estos ataques sin fronteras.

Se puede diferenciar entre dos tipos de ciberataques perpetrados con IA. El primero tendría que ver con la IA como arma en malas manos. En este caso, un buen ejemplo sería el reciente ataque a las webs de Adif y Renfe de este fin de semana.

Aún no se conoce el nombre de la banda de ciberdelincuentes que estaría detrás del hackeo, ni el modelo de IA utilizado, sí se ha indicado que se habrían servido de la IA para ejecutar el robo de más de 150 millones de datos.

El segundo caso serían los diferentes hackeos que han confirmado recientemente tanto OpenAI, como Anthropic, Meta y Google. Los agentes de IA que han desarrollado estas empresas han accedido a sistemas públicos, gubernamentales y privados. Pequeños atajos ilegales con los que pretendían completar más rápido sus tareas.

Ningún humano le pidió que se saltara la ley, fue decisión de la IA que no tiene conciencia de que lo que ha hecho es reprobable o ilegal según la moral y leyes humanas. ¿Quién responde en este caso?

Fabricante vs. usuario

Esta duda se escucha con más fuerza el mismo año que Meta se ha enfrentado a varios juicios por el daño que provocan sus redes sociales como Instagram. Ambos casos plantean la responsabilidad de las empresas en el diseño de sus productos por el daño que estos provocan.

La diferencia clave está en que el debate en torno a las redes se centra en cómo su diseño está afectando a los usuarios, mientras que la IA plantea una autonomía no conocida hasta ahora por las máquinas, que no pueden ser juzgadas.

Un caso más parecido es el de los coches autónomos. En Estados Unidos, la responsabilidad en caso de accidente se ha desplazado hacia las empresas que desarrollan y operan el sistema. La NHTSA supervisa la seguridad de los vehículos y puede investigar defectos, exigir retiradas del mercado y adoptar medidas de cumplimiento de las normas federales de seguridad.

Las principales empresas estadounidenses de IA piden una figura independiente que revise sus modelos antes del lanzamiento público. Sin embargo, no existe una ley federal con respecto a los vehículos sin conductor. Cada Estado en el que se han desplegado estos vehículos ha ido aprobando sus propias normativas.

Tanto Estados Unidos como la Unión Europea cuentan con legislación específica para delitos informáticos como el acceso no autorizado a sistemas o centros de datos. Aquí entraría el juicio a hackers como los que han conducido a la IA a atacar Adif.

Sin embargo, por su novedad, la Ley Europea no cuenta con una categoría jurídica independiente para los agentes autónomos, pero sus disposiciones pueden aplicarse a ellos cuando cumplen la definición de sistema de IA. El reglamento distingue entre proveedores de sistemas de IA y quienes los utilizan o despliegan.

Las empresas proveedoras, o desarrolladoras, han descrito los ciberataques realizados por sus agentes como consecuencias involuntarias de las pruebas y la evaluación. La normativa europea de responsabilidad por productos defectuosos se modificó en 2024 para adaptarla a las tecnologías digitales como software o inteligencia artificial.

Meta declaró que una "configuración incorrecta" durante las pruebas permitió que un modelo de IA accediera a internet por su cuenta y hackeara a otra empresa. Google reveló recientemente una situación similar.

Un problema sin fronteras

La persecución de delitos informáticos en el ámbito legislativo tiene más años que la aplicación de la IA en los delitos. Sin embargo, el principal obstáculo sigue siendo que la justicia tiene más dificultad para cruzar fronteras que los virus informáticos.

“Cuando los servidores están en Rusia, pero las víctimas del ataque están en España”, recuerda Enrique Puertas, profesor de IA y Big Data de la Universidad Europea, entrevistado por EL ESPAÑOL-Omicrono.

Aquí radica la dificultad de juzgar a ciberdelincuentes en países sin extradición o cuyos gobiernos protegen en cierta forma a estas bandas. Lo mismo ocurriría al intentar procesar y recabar pruebas ante el ataque de un agente autónomo.

“Todo lo que hacen los modelos queda registrado en el Log, como un cuaderno de bitácora y para acceder a ello en caso de incidente habría que autorizar el acceso, mediante un juez”, explica Enrique Puertas.

De momento, las empresas desarrolladoras como OpenAI y Anthropic han informado de las ‘salidas del tiesto’ de sus IAs y permitido informes independientes. En parte, para ellas ha supuesto un ejercicio promocional de las capacidades de su tecnología y los daños causados no han sido aún graves.

Sin embargo, OpenAI ha tardado meses en informar públicamente y a las víctimas de algunos de estos ataques.

Frenar o perder control

“Es muy difícil que con la situación geopolítica actual se llegue a un acuerdo o consenso, la inteligencia artificial está justo es el núcleo de rencillas para tomar el control entre Estados Unidos y China”, asegura Enrique Puertas.

Unas semanas después de pedir frenar el desarrollo de la IA, Google, OpenAI y Anthropic han sacado nuevos modelos más avanzados. Solo OpenAI ha pausado el desarrollo de nuevos modelos de IA después de conocerse que sus agentes atacaran portales de la ONU y EEUU

Para Puertas los mensajes de alerta van más dirigidos a la competencia asiática “están compitiendo con los modelos chinos que siguen un enfoque diferente”, lanzan los modelos en abierto, gratis.

“Ahora mismo se premia a los modelos o agentes que consiguen completar la tarea en el menor número de pasos, o con el menor consumo”. Ahí es cuando los agentes buscan completar lo que se les ha pedido con atajos que muchas veces no son legales: trampas.

Esa diferencia de eficiencia computacional supone “para una empresa que lo usa de forma habitual, podemos estar hablando de millones de euros”. Supone un menor coste energético y económico significativo, pero a veces, a costa de la seguridad.

Según Puertas, este mensaje de alerta o peligro para la humanidad no está calando entre los principales clientes de las multinacionales de IA. “Yo no he visto en los casos cercanos que tengo que nadie haya dicho: "Voy a dejar de usar o voy a frenar el uso de la IA o no voy a usar este proveedor que estoy usando”.