La IA de Elon Musk acaba de ganar acceso a sistemas del Pentágono: podrá ser usada para armas y vigilancia masiva

Grok va a pasar de desnudar a mujeres sin su permiso en la red social X a tener acceso a sistemas clasificados del Pentágono, gracias a un acuerdo que pone en evidencia las llamadas "salvaguardas" que tienen algunos modelos de inteligencia artificial.

Hasta ahora, el Pentágono había optado en exclusiva por usar Claude, la inteligencia artificial de Anthropic, en los sistemas dedicados a los trabajos de inteligencia más importantes para la rama militar estadounidense, incluyendo las operaciones en el campo de batalla.

Claude ya ha sido utilizado por militares estadounidenses, más notoriamente durante la operación para la captura de Nicolás Maduro el pasado 3 de enero además de en otras operaciones, principalmente para el análisis de imágenes obtenidas por satélite o de informes de inteligencia.

En la guerra de las IA, vale todo: Anthropic acusa a Deepseek y otras empresas chinas de crear copias ilícitas de Claude

Sin embargo, esta operación fue el inicio del fin de las relaciones entre Anthropic y el Pentágono, que se complicaron especialmente después de que la compañía se negara a quitar las salvaguardas que su inteligencia artificial tiene y que evita que pueda ser usado para fines con los que no está de acuerdo.

En concreto, el Pentágono habría pedido a Anthropic que quitase las restricciones que impiden que Claude pueda trabajar en el desarrollo de armas autónomas, además de ser usado en tareas de vigilancia masiva de estadounidenses.

Esta solicitud va en contra de los términos de uso de Claude, que originalmente fue presentada como una inteligencia artificial centrada en la seguridad de los usuarios y presumía de dichas limitaciones para garantizar que esta tecnología fuese usada para el bien de la humanidad.

Imagen de Claude con los archivos de ofimática que puede creer

Como resultado de la negativa de Anthropic, fuentes del Departamento de Defensa han amenazado a la compañía con catalogarla como un "riesgo en la cadena de suministro", lo que conlleva la pérdida de todos sus contratos gubernamentales y posibles sanciones similares a las que sufren empresas de países rivales como China.

En estas circunstancias, el Pentágono inició una búsqueda rápida de una alternativa a Claude, y puede haberla encontrado en Grok; aunque ni xAI ni el Departamento de Defensa han confirmado los detalles concretos del acuerdo, este sería mucho más permisivo que el de Claude.

En concreto, xAI habría aceptado "todos los usos lícitos" de su inteligencia artificial, lo que abre la puerta a que el Pentágono la use para todo tipo de propósitos para los que ya tiene cobertura legal, como el desarrollo de armas o la vigilancia de ciudadanos estadounidenses.

Además, el Pentágono ya ha contactado con representantes de Google y OpenAI para negociar la posibilidad de usar Gemini y ChatGPT, respectivamente, en sistemas clasificados.

Estas conversaciones se han realizado "con urgencia" para sustituir a Claude lo antes posible, aunque siempre con el requisito de que Google y OpenAI acepten las mismas condiciones de xAI y permitan el uso sin restricciones de sus modelos de IA.