Anthropic

Anthropic Reuters

Software

Anthropic alerta: Irán utilizó su inteligencia artificial Claude para planificar posibles ataques contra Estados Unidos

Un informe de Anthropic revela cómo actores de Irán, China y Rusia burlaron los controles geográficos para planificar ciberataques y vigilar disidentes.

Más información: Jacob Coxon, ex-ingeniero de OpenAI y Anthropic: "Creen que la IA nos puede matar a todos a finales de la década"

Publicada
Actualizada

Anthropic, la firma estadounidense detrás del modelo de inteligencia artificial (IA) Claude, ha alertado que Irán utilizó su tecnología para planificar posibles ataques contra Estados Unidos.

Un aviso que llega justo después de que la firma bloqueara varios complots para usar su IA en posibles intentos de crear armas biológicas.

La compañía ha compartido un exhaustivo informe de 154 páginas en el que detalla cómo diversos actores vinculados a Gobiernos extranjeros —principalmente Irán, Rusia, China y Yemen— utilizaron de forma indebida sus sistemas durante los últimos ocho meses para operaciones de ciberespionaje, propaganda y análisis táctico militar.

Según Anthropic, un grupo de ciberdelincuentes asociado directamente al Gobierno iraní empleó la plataforma para identificar objetivos clave y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos.

Este uso de la tecnología permitió a las autoridades del país hacer más eficientes y optimizar los sistemas de vigilancia que ya tenían desplegados previamente.

Asimismo, la firma ha confirmado que este colectivo utilizó la herramienta para elaborar recomendaciones tácticas dirigidas a planificar posibles ataques contra las fuerzas navales de Estados Unidos en la región.

Al no estar disponible oficialmente en territorio iraní, los usuarios recurrieron además a diversos mecanismos para sortear las restricciones de acceso a Claude.

Los operadores utilizaron redes privadas virtuales (VPN) y números de teléfono extranjeros para eludir los bloqueos geográficos y acceder al servicio.

De forma paralela, el informe documenta otros patrones de uso indebido de la plataforma relacionados con el desarrollo de armas convencionales y ciberoperaciones en países como China, Rusia y Yemen.

El logo de Anthropic en un móvil.

El logo de Anthropic en un móvil. Reuters Omicrono

La propia empresa ha reconocido que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", ha explicado Anthropic.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas.

En el documento, Anthropic ha advertido de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.

Un fenómeno que también genera alarma por los peligros derivados de la progresiva autonomía de estas herramientas