Una mano robótica utiliza las herramientas de Anthropic. Reuters
Anthropic alerta de que ha bloqueado varios complots para usar su IA en posibles intentos de crear armas biológicas
Un científico pidió ayuda a Claude para introducir mutaciones en el virus chikungunya para hacerlo más dañino.
Más información: Jacob Coxon, ex-ingeniero de OpenAI y Anthropic: "Creen que la IA nos puede matar a todos a finales de la década"
La IA acerca el fin del mundo. O al menos eso parece mostrar Anthropic día a día.
Si este miércoles uno de sus investigadores alertó de que en el seno de la compañía "creen que la IA nos puede matar a todos", este jueves ha sido la empresa la que ha lanzado un preocupante mensaje.
Y es que han detectado y bloqueado varios intentos de utilizar Claude para investigaciones que podrían facilitar el desarrollo de armas biológicas, según informa el NYT.
La compañía no puede determinar si los científicos que la usaron tenían una intención legítima o maliciosa, porque la investigación biológica es de "doble uso".
Por tanto, podría servir para vacunas y avances médicos, pero también para crear patógenos peligrosos.
Expandir el chikungunya
Uno de los casos más preocupantes está relacionado con el virus chikungunya, una enfermedad infecciosa causada por un virus que se transmite principalmente por la picadura de mosquitos y que provoca fiebre y fuertes dolores articulares.
En mayo pasado, Anthropic detectó a un científico que pidió a Claude ayuda para preparar una solicitud de financiación para una investigación de "ganancia de función".
El objetivo era introducir mutaciones en el virus mediante su transmisión repetida entre animales para hacerlo más dañino.
Aunque no desvela el origen de la petición, el hecho de que esa investigación pudiera estar destinada a un instituto militar elevó las alarmas de Anthropic.
La empresa no sabe si el propósito final era fabricar un arma biológica, pero considera especialmente preocupante ese tipo de experimentos.
Según la empresa, algunos científicos utilizaron técnicas para ocultar el verdadero propósito de sus investigaciones y acceder a los modelos pese a las restricciones geográficas.
Anthropic terminó bloqueando las cuentas.
Al no poder determinar el uso final, Anthropic ha tomado la decisión de no desvelar el origen de los complots.
Armas en Rusia y China
Los intentos de utilizar Claude para desarrollar software en armas no terminan ahí.
La compañía estadounidense también ha detectado el uso de su IA para el diseño y desarrollo de armas convencionales, incluyendo armas de fuego, misiles, drones armados y bombas.
De nuevo, no detalla el origen preciso, pero sí desvela que tres casos se produjeron en China, dos en Rusia y uno en Yemen.
Este último país está mayoritariamente dominado por los hutíes, una milicia chií aliada de Irán que ha amenazado con multiplicar la crisis energética cerrando el estrecho de Bab el-Mandeb.
También han detectado a actores vinculados a los gobiernos chino e iraní utilizando sus modelos para vigilar a disidentes y miembros de sus diásporas.
Los medios estatales rusos también han empleado Claude para generar propaganda presentada como información independiente, incluso con afirmaciones falsas sobre las elecciones de Moldavia.
La principal preocupación ahora es que la IA pueda convertir una investigación aparentemente legítima en una vía para desarrollar patógenos imprevisibles.
Y todo por no haber introducido una 'variante Asimov': "Una IA no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño".
