A Europa le han cortado el grifo de la IA. Anthropic, actual líder en la carrera de la inteligencia artificial, cortó por completo el acceso a sus modelos Mythos 5 y Fable 5 el viernes por la noche, solo unos días después de su lanzamiento público, y por orden del gobierno estadounidense.

La empresa liderada por Dario Amodei recibió a finales de la semana pasada una directiva del Departamento de Comercio de EEUU. Ordenaba suspender el acceso a estas herramientas a cualquier ciudadano extranjero por motivos de seguridad. La medida incluso blindaba el acceso a los extranjeros que acceden desde suelo estadounidense, por lo que la empresa afirmó que la única manera de cumplir con la directiva era cortar por completo el acceso.

Existen más actores compitiendo en el desarrollo de la inteligencia artificial, por supuesto, pero los nuevos modelos de Anthropic han demostrado unas cualidades que han hecho saltar las alarmas. Mythos se ha valorado como una herramienta clave para revolucionar la automatización en ciberseguridad, para lo bueno y para lo malo, defensa o ataques.

"Creo que habrá sido un momento de pánico moral, alimentado por todas las expectativas, previsiones de futuro, exageración de logros, porque la medida que plantean es radical", opina Antonio Ortiz, analista tecnológico especializado en internet e inteligencia artificial, así como cocreador del pódcast Monos estocásticos, en una consulta de EL ESPAÑOL-Omicrono.

Altos cargos de Anthropic se han desplazado a Washington para tratar con la Casa Blanca una solución a este bloqueo. Mientras no haya cambios, los clientes de Anthropic se quedan sin acceso a estas potentes herramientas. Cuando se lanzó Mythos en marzo, en la UE se consideró crucial que el sector bancario y empresarial tuviera acceso para "defenderse".

Riesgo de acceso desde China

Los motivos de esta prohibición podrían estar en una posible brecha de seguridad. Por un lado, según The Wall Street Journal informaba que Andy Jassy, CEO de Amazon, había alertado a varios miembros de la administración del peligro de esta herramienta.

Funcionarios de la Casa Blanca celebraron una reunión para analizar cómo responder y pidieron a Anthropic que corrigiera las vulnerabilidades, pero finalmente se decidió blindar el acceso a todo usuario sin nacionalidad estadounidense. Entendemos que el gobierno cree haber descubierto un método para eludir, o "desbloquear", Fable 5.

Amazon es uno de los primeros inversores de Anthropic. La brecha detectada, explica Antonio Ortiz, sería lo que en la industria se denomina un jailbreak, saltarse una salvaguarda y conseguir las capacidades premium de Mythos que la versión de Fable no permite. Otra de las sospechas que habrían hecho saltar las alarmas es la posibilidad de que potencias rivales como China tuvieran acceso al modelo.

Mythos o Fable no es el único modelo que China estaría usando de forma ilícita, según denuncian desde occidente. Solo unos días antes de que el Gobierno de Estados Unidos prohibiera el acceso de extranjeros a la nueva IA de Anthropic, Google también denunciaba que un grupo de cibercriminales chinos llamado Outsider Enterprise había utilizado Gemini.

El gigante de internet afirma que esa banda opera a través de Telegram ofreciendo servicios de phishing a personas que no poseen los conocimientos técnicos necesarios para crear campañas de ciberestafas. Gemini sería una herramienta para desarrollar webs fraudulentas con las que engañar a las víctimas.

La compañía de Amodei defiende que "hemos implementado sólidas medidas de seguridad que reducen considerablemente la probabilidad de que Fable se utilice indebidamente para tareas relacionadas con la ciberseguridad (entre otras). De hecho, nuestras medidas son tan robustas que muchos usuarios se han quejado de que son excesivamente amplias".

Solo unos días antes, el propio Dario Amodei y su empresa ofrecían una serie de consejos sobre cómo debía legislarse el riesgo que presentan modelos tan potentes como Mythos y Fable. “Esto nos da el verdadero pensamiento de Anthropic: lo que tiene que hacer el gobierno es regular esto para que todo el mundo tenga los mismos estándares que nosotros, que son los buenos", explica Antonio Ortiz.

Este experto también considera que la multinacional norteamericana podría ver ventajas en promocionar una legislación más dura: "cuando tienes una legislación fuerte, con medidas de seguridad muy altas y riesgos legales altos, estos entornos tan regulados son más amables con las grandes empresas y Anthropic es por ahora uno de los mejores laboratorios de vanguardia de inteligencia artificial".

Las alternativas europeas

"Este acontecimiento es una muestra más de por qué Europa necesita reforzar su soberanía tecnológica", declaró Thomas Regnier, portavoz de la Comisión Europea, en un comunicado que recoge Reuters. "Nosotros teníamos un plan que implicaba menos riesgo que Estados Unidos", aclara Ortiz.

Ese plan europeo ha priorizado el desarrollo de una legislación fuerte que previniera los principales riesgos de la inteligencia artificial, además de darle importancia al clima frente al crecimiento económico y la productividad, tal y como comenta el experto, quien recuerda que también ha habido menos inversión y se ha asumido menos riesgo económico en este sector. Eso ha dejado atrás en cuanto a desarrollo de grandes modelos de IA a la UE, cuando la carrera se debate entre Estados Unidos y China.

El riesgo no solo está en que los ciberdelincuentes de países no aliados puedan acceder a Mythos o Fable, sino que estos propios países desarrollen sus propios modelos capaces de detectar y crear oportunidades de ataque o armas biológicas. "China, en el desarrollo de modelos, podemos sospechar que está entre 6 meses y un año por detrás de Estados Unidos", dice Ortiz.

Para Europa la solución a corto plazo sería llegar a acuerdos con su aún socio geopolítico, EEUU. "Estamos lejísimos de esa soberanía digital absoluta", dice Ortiz. Incluso Estados Unidos depende de miles de componentes fabricados en China para montar los centros de datos en los que están invirtiendo con fuerza.

"La situación nos obliga a mantener una buena relación y alianza con EEUU", asegura, mientras se refuerza la tecnología europea. "Europa solo tiene un candidato, que es Mistral, empresa francesa, cuyo modelo es de clase B, tamaño medio. No tenemos pesos pesados si hacemos una analogía de boxeo".

Aunque trabajar en una mayor independencia tecnológica suponga un reto casi imposible, sí puede jugar una ventaja para afrontar una negociación más justa con las otras potencias en el mercado. Conforme tengamos mayor potencia de cómputo en escala, algunos modelos de buen nivel y podamos competir en la aplicación de servicio, podremos negociar con Estados Unidos en otra posición de poder. Ahora mismo estamos con tan pocas armas que cualquier negociación con Estados Unidos casi desemboca en una fuerte dependencia y el poder de negociación lo tienen ellos.