Foto de archivo de personas se ven detrás del logotipo de Meta Platforms durante una conferencia en Mumbai, India, el 20 de septiembre de 2023. Reuters
Un modelo de IA de Meta vuelve a 'hackear' por error a una compañía durante unas pruebas de ciberseguridad
El sistema aprovechó una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a lo ocurrido en otros casos.
Más información: Anthropic suspende el acceso a Fable 5 y Mythos 5, sus modelos IA más avanzados, por orden de seguridad nacional de EEUU
Ha vuelto ha suceder. Un modelo de Inteligencia Artificial (IA) creado por Meta se ha inmiscuido en los sistemas de otra compañía por error durante unas pruebas de ciberseguridad, según han confirmado desde la tecnológica a Efe.
"Un error de configuración por parte de Irregular, una empresa de pruebas independiente con la que trabaja Meta, permitió sin querer que uno de nuestros modelos tuviera acceso a Internet durante la evaluación", ha indicado la compañía.
Posteriormente y según ha concretado un portavoz, el modelo "aprovechó una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a lo ocurrido en casos ya denunciados anteriormente con otras empresas", ha explicado.
La misma fuente ha subrayado que la compañía está investigando el incidente y que publicará un informe "completo" una vez disponga de todos los datos.
Esta misma compañía confirmó ayer miércoles que uno de sus modelos de IA había hackeado a otra empresa durante unas pruebas de ciberseguridad.
El incidente se produjo debido a un error de Irregular, que permitió al modelo acceder a Internet más allá de lo previsto en un principio, lo que le dio margen para modificar los sistemas internos de la empresa no identificada.
Pero no son los primeros incidentes así en la historia reciente de la IA.
El pasado julio, Anthropic reveló que, mientras sus sistemas estaban realizando unas pruebas de ciberseguridad, tres modelos de su asistente Claude también lograron acceder a Internet e inmiscuirse en los sistemas de tres organizaciones.
Algo similar le había sucedido antes a OpenAI. La compañía responsable de ChatGPT, ya reconoció que dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y entrar en la plataforma Hugging Face superando sus defensas.
De esta forma, el Gobierno británico alertó este miércoles a través de un informe, elaborado por el Instituto de Seguridad de la IA (AISI) del Reino Unido, de que tanto los modelos de IA Mythos y Sol —de Anthropic y OpenAI, respectivamente—, han mostrado comportamientos autónomos y engañosos nunca vistos durante unas pruebas de ciberseguridad.
De acuerdo con el informe emitido, de las 122 pruebas efectuadas con siete modelos de IA, en diez de ellas se registraron 19 acciones no autorizadas que excedieron los parámetros fijados por los investigadores.
De estas acciones, 17 correspondieron al modelo Mythos 5 de Anthropic, mientras que dos fueron protagonizadas por el GPT-5.6 Sol de OpenAI.
Según el informe, el punto de inflexión llegó cuando un agente intentó introducir un código malicioso en un proyecto de software libre real, creando identidades falsas para engañar al mantenedor.
Además, contactó a personas reales para que ejecutaran archivos maliciosos, plantó instrucciones ocultas para manipular otros sistemas de IA y coordinó acciones con otros agentes.
Una rivalidad
Precisamente ayer, miércoles, a la vez de que se supiera que la IA de Meta había logrado hackear otra compañía, la tecnológica anunciaba su primer agente de programación, Muse Code.
Dentro de su ímpetu por competir con sus rivales OpenAI y Anthropic, Meta lanzó este programa que permitirá de forma más fácil crear aplicaciones en las que varios asistentes de IA trabajen al mismo tiempo dentro de una misma plataforma.
La tecnológica fundada por Mark Zuckerberg es actualmente la novena cotizada más valiosa del mercado, aunque en lo que va de año sus acciones han caído un 10,7%.
