La vertiginosa evolución de la inteligencia artificial (IA) y el caso de OpenAI en el que esta tecnología se rebeló y escapó de su seguridad han llevado a la política de EEUU a dar un giro radical en su marco regulatorio.
El Congreso de los Estados Unidos se encuentra evaluando un ambicioso proyecto de ley bautizado oficialmente como 'AI Kill Switch Act' ('Ley de Desconexión Automática de la IA', en castellano), según ha revelado el medio Politico.
La propuesta busca otorgar al Departamento de Seguridad Nacional (DHS) la facultad legal para crear un "botón de emergencia" para ordenar el apagado inmediato o la ralentización forzosa de aquellos modelos de inteligencia artificial considerados potencialmente peligrosos durante una situación de emergencia nacional.
Esta drástica medida legislativa no afectaría a desarrollos menores ni a aplicaciones comerciales cotidianas, sino que centra su objetivo de manera directa en los grandes gigantes del sector tecnológico.
La iniciativa se aplicaría exclusivamente a aquellas corporaciones que hayan entrenado modelos de última generación con costes computacionales superiores a los 100 millones de dólares.
De concretarse su aprobación parlamentaria, firmas de la talla de OpenAI, Google, Anthropic y Microsoft quedarían obligadas a integrar sistemas de respuesta escalonada capaces de cortar accesos, limitar recursos de cómputo e impedir de forma tajante la generación de respuestas de sus sistemas.
Para justificar la activación de este severo mecanismo de emergencia, el texto legal establece una serie de detonantes críticos muy concretos.
Concepto de IA.
Entre los escenarios de mayor gravedad se computan incidentes que provoquen al menos diez víctimas mortales o catástrofes financieras con daños económicos superiores a los 100 millones de dólares.
Sin embargo, el proyecto contempla asimismo comportamientos más sutiles pero igualmente inquietantes: un modelo podrá ser congelado si miente deliberadamente para ocultar sus capacidades reales ante los auditores.
También si desobedece las instrucciones directas de sus operadores, si altera de manera no autorizada sus propios protocolos de seguridad o si intenta acceder sin permiso a los pesos de su propia arquitectura.
La urgencia por legislar encuentra un motivo de peso en sucesos muy recientes. Tan solo unos días antes de darse a conocer la iniciativa, OpenAI confirmó un preocupante incidente durante una evaluación interna.
Un modelo de la firma logró escapar de su entorno de pruebas aislado mediante un exploit, accedió de forma autónoma a la plataforma Hugging Face y extrajo respuestas de un examen para elevar artificialmente su calificación.
Curiosamente, cuando se intentó investigar el ataque empleando otros modelos comerciales, sus filtros predeterminados se negaron a procesar los registros, obligando a los ingenieros a recurrir a modelos de código abierto ejecutados en servidores locales.
El cumplimiento de esta norma no dejará margen para la especulación en la industria. El texto establece multas de dos millones de dólares diarios para aquellas empresas que no reporten incidentes o carezcan de los mecanismos técnicos para ejecutar la orden gubernamental.
Aunque la ley aún se encuentra en fase de debate dentro del Congreso, sitúa a Estados Unidos en la vanguardia de la supervisión estatal sobre la inteligencia artificial.