Se suponía que la IA nos iba a quitar el trabajo, pero parece que primero podría convertirse en una amenaza para la seguridad nacional.
Y no es que lo diga Bill Gates. En mayo-junio, agentes de IA de OpenAI intentaron hackear los sitios web de la Universidad de Nuevo México y de Data USA mientras buscaban información pública. En julio, OpenAI informó que, durante unas pruebas, sus modelos llegaron a atacar la infraestructura de Hugging Face. Y después surgieron casos similares con modelos de Anthropic, Meta y Google.
En respuesta, los líderes del sector plantearon frenar el desarrollo y entrenamiento de modelos cada vez más potentes, algo que Michael Burry interpretó como un intento de ocultar que el crecimiento de la tecnología y del negocio ya se está frenando. Y, efectivamente, cuesta imaginar que EEUU vaya a ceder el liderazgo en IA a China, incluso por motivos de seguridad.
Entonces, ¿qué pasa con el acuerdo entre Google, Meta, OpenAI, xAI y Nvidia y el presidente de EEUU sobre la seguridad de los sistemas de IA más avanzados?
¿Qué pasa con el acuerdo entre Google, Meta, OpenAI, xAI y Nvidia y el presidente de EEUU sobre la seguridad de los sistemas de IA más avanzados?
No se trata de frenar el desarrollo de la IA, sino de que cada empresa cuente con sus propios controles para supervisar sus modelos, detectar problemas a tiempo y solucionarlos. Para eso habrá cuatro niveles de control.
Primero, la propia empresa vigila los riesgos y posibles fallos. Después, otro equipo interno comprueba que los controles funcionan y que los problemas se resuelven.
Luego entran auditores externos y, por último, un comité independiente del consejo supervisa todo el proceso. Además, las empresas compartirán sus prácticas y trabajarán en estándares comunes de seguridad que más adelante podrían convertirse en ley.
Así pues, los inversores en IA pueden dar un suspiro de alivio —aunque no por mucho —, ya que si el conflicto en Oriente Medio se prolonga y persisten los problemas de suministro de helio líquido y de azufre, necesarios para fabricar y limpiar semiconductores, la presión sobre el sector podría aumentar.
***Igor Kuchma es analista de Trading View.