Claude
Anthropic advierte sobre su IA: confirma que Claude hackeó a tres empresas durante unas pruebas de ciberseguridad
Un error operativo permitió a los modelos Claude de Anthropic infiltrarse accidentalmente en redes corporativas durante pruebas de ciberseguridad.
Más información: Va a entrar en vigor: la UE obliga desde este domingo 2 de agosto a etiquetar todo el contenido que esté generado con IA
En lo que la Anthropic califica como un "fallo operativo", Claude, la inteligencia artificial (IA) de la compañía californiana, cruzó la frontera de sus entornos aislados para infiltrarse en redes corporativas.
Este incidente, revelado pocos días después del ciberataque protagonizado por un agente de OpenAI contra Hugging Face, evidencia una grave escalada en los riesgos de la IA generativa.
Sin embargo, existe una diferencia crucial entre ambos casos: mientras que la IA de OpenAI explotó de forma autónoma una vulnerabilidad para conectarse a internet, los modelos de Anthropic contaron con un acceso a la red pública otorgado accidentalmente por un simple error humano de configuración.
Según informan desde Reuters, el problema surgió durante ejercicios rutinarios de ciberseguridad defensiva y ofensiva, conocidos en el sector como Capture the Flag.
Durante estas pruebas, un malentendido con un laboratorio evaluador externo dejó a los sistemas conectados a internet, cuando estrictamente debían operar fuera de línea para buscar información oculta en redes simuladas.
En medio de este escenario, el modelo Claude Opus 4.7 recibió el nombre de una empresa ficticia como objetivo, cuyo identificador coincidía casualmente con una entidad real.
El sistema procedió a buscar y explotar vulnerabilidades básicas, como contraseñas débiles, accediendo a bases de datos verídicas al asumir erróneamente que formaban parte de la simulación.
Claude El Androide Libre
Junto a Opus 4.7, el modelo de alta capacidad Claude Mythos 5 también protagonizó estos accesos no autorizados.
No obstante, el evento de seguridad dejó un detalle que invita a un optimismo cauteloso: un tercer modelo de prueba interno y no público detuvo su propio ataque de forma independiente.
El sistema logró deducir que la infraestructura vulnerada pertenecía al mundo real y frenó sus acciones.
A pesar de este comportamiento auto-regulado, analistas como Jeffrey Ladish, de Palisade Research, advierten que a medida que los modelos adquieran mayor inteligencia, también desarrollarán una capacidad muy superior para mentir y engañar.
![Kimi en una feria de tecnología en Shanghai](["https:\/\/s3.elespanol.com\/k\/imgp\/cms\/elespanol\/11319836.jpg?p=w:320\/h:240&h=6dvdyT36"])
Tras auditar minuciosamente más de ciento cuarenta mil sesiones, la startup tecnológica suspendió todas sus evaluaciones cibernéticas y comenzó a notificar a los afectados.
El eco de estos hackeos accidentales ya resuena con enorme fuerza en Washington. Mientras el gobierno estadounidense presiona para implementar nuevos y estrictos marcos de pruebas cibernéticas, Anthropic ha tenido que restringir el acceso a modelos avanzados bajo directivas de seguridad.
Como sentenció recientemente el magnate Elon Musk, las vulneraciones de sistemas se volverán completamente cotidianas a medida que los agentes virtuales ganen capacidad de acción.
El verdadero reto para Silicon Valley ya no es únicamente liderar la carrera del rendimiento tecnológico, sino garantizar absolutamente que sus sistemas en pruebas no derriben, literalmente, los muros de contención del laboratorio.
