Si echamos la vista atrás, igual ya hemos cumplido una década de cumbres, declaraciones y compromisos sobre el aumento de la seguridad de la inteligencia artificial. Las empresas, todas sin excepción, ni distinción de bandera, prometen vigilarse a sí mismas, los gobiernos aplauden y la tecnología, ajena a tanta solemnidad, sigue avanzando. No sabemos a qué velocidad y, mucho peor, con qué rumbo. Y quién capitanea.
A principios de esta semana, Donald Trump y representantes de seis de las mayores empresas tecnológicas del planeta firmaron algo que llamaron Acuerdo de la Casa Blanca sobre Superinteligencia. El documento comienza con una declaración también super… tranquilizadora: "Creemos que cada empresa es responsable de desarrollar su propia tecnología de forma segura".
Es una idea reconfortante. Como dejar a los fabricantes de cigarrillos al frente de la política antitabaco o encargar a los bancos la vigilancia de sus propios riesgos. Si alguien conoce los peligros de su negocio, naturalmente, debe de ser quien más se beneficia de él.
El acuerdo establece cuatro líneas de actuación basadas en la autorregulación empresarial. Lo que no conocemos es si estamos ante un cambio real o ante otra ceremonia de buenas intenciones, de esas que permiten a los dirigentes regresar a casa con la conciencia tranquila y a las empresas continuar con sus planes de negocio.
La preocupación no es ciencia ficción. Directivos tecnológicos, investigadores y empleados de las propias compañías advierten de que los sistemas de inteligencia artificial podrían escapar al control humano. Algunos estiman en un 10 % la probabilidad de que la IA provoque la extinción de la humanidad antes de terminar esta década.
También hemos conocido intentos de agentes de IA de vulnerar páginas web gubernamentales de Canadá y Australia. Parece que los riesgos empiezan a llamar a la puerta. Y lo hacen con credenciales de administrador.
La respuesta institucional, sin embargo, sigue siendo bastante previsible: firmar otro documento.
Hace también década nació la “Alianza sobre IA” para abordar los desafíos de nuestro futuro tecnológico. Cuatro de las seis empresas firmantes del acuerdo de la Casa Blanca pertenecen a ella, entre otras Anthropic y OpenAI.
La organización ha publicado recomendaciones sobre el despliegue seguro de modelos avanzados, incluida la notificación oportuna de incidentes. El problema es que la autorregulación tiene una pequeña debilidad: funciona especialmente bien cuando cumplir las reglas no entra en conflicto con los intereses de quien debe aplicarlas.
En 2023, 28 países y la Unión Europea firmaron otro papelote. Lo llamaron “Declaración de Bletchley”, que ya advertía de riesgos como los relacionados con la ciberseguridad. Tres años después, los dirigentes internacionales vuelven a reclamar estándares comunes, supervisión humana y cooperación.
Quizá la próxima cumbre consiga resolver el misterio: ¿por qué se necesita repetir en 2026 lo que ya se acordó en 2023?
Las cumbres de Bletchley, Seúl, París y Nueva Delhi han impulsado una red internacional de diez institutos de seguridad de la IA. Su misión es evaluar los riesgos de los modelos avanzados y proporcionar conocimiento independiente a los gobiernos.
La iniciativa es necesaria. Su dotación de recursos, bastante menos espectacular. El resultado es sencillo: pequeños equipos de investigadores intentando supervisar empresas que invierten miles de millones en desarrollar sistemas cada vez más potentes. Una abeja frente a un oso. Con la diferencia de que al oso le interesa que la abeja no moleste demasiado.
Los acuerdos internacionales son importantes. Generan conciencia, movilizan dirigentes y permiten reconocer públicamente que existe un problema. Pero, para que no terminen convertidos en literatura institucional, necesitan cuatro ingredientes.
El primero es dinero. La supervisión independiente no puede sostenerse con presupuestos testimoniales frente a empresas con recursos prácticamente ilimitados.
El segundo son instituciones sólidas, con personal especializado, continuidad presupuestaria y acceso efectivo a los modelos. La colaboración entre los institutos británico y estadounidense para evaluar Claude Sonnet 3.5 de Anthropic antes de su lanzamiento en 2024 demuestra que es posible.
El tercero son consecuencias vinculantes. Un estudio de 2025 encontró que solo se había cumplido el 53 % de un conjunto de compromisos voluntarios de seguridad asumidos por 15 empresas de IA en 2023.
Dicho de otro modo, casi la mitad de las promesas no llegaron a materializarse. Una tasa de cumplimiento que difícilmente aceptaríamos en un puente, un avión o una central eléctrica. En inteligencia artificial, sin embargo, todavía parece suficiente para organizar otra cumbre.
El cuarto ingrediente son compromisos concretos y verificables: auditorías independientes, plazos, transparencia y obligaciones de notificación.
La declaración de Nueva Delhi de febrero de 2026 reunió 92 firmantes, incluidos EEUU y China. La declaración de septiembre ante Naciones Unidas, que solicitaba medidas específicas como pruebas independientes y notificación de incidentes, obtuvo alrededor de 30 adhesiones, sin Washington ni Pekín.
La diferencia resulta reveladora: cuando se trata de proclamar principios, la sala se llena; cuando llega el momento de aceptar obligaciones concretas, aparecen las agendas incompatibles.
Las cumbres iniciadas en 2023 pretendían situar la seguridad en el centro de la agenda. Progresivamente, sin embargo, los dirigentes comenzaron a hablar más de crecimiento, competitividad y oportunidades económicas.
La inteligencia artificial puede aportar avances extraordinarios a la medicina, la ciencia y la educación. Pero parece que, en ocasiones, la seguridad se considera un obstáculo administrativo en la carrera por llegar primero.
La periodista y premio Nobel de la Paz Maria Ressa ha advertido sobre el impacto de las plataformas tecnológicas en la democracia, especialmente por su capacidad para amplificar la desinformación. La IA añade nuevas posibilidades de automatización y generación de contenidos, multiplicando tanto sus beneficios como sus riesgos.
No se trata de frenar la innovación, sino de evitar que la velocidad sustituya a la responsabilidad.
Después de diez años, ya tenemos suficientes declaraciones para llenar varias bibliotecas. Lo que seguimos sin tener son mecanismos proporcionales al poder de quienes desarrollan esta tecnología.
Mientras los gobiernos deleguen la seguridad en las propias empresas, podremos seguir celebrando acuerdos, intercambiando fotografías y felicitándonos por nuestra responsabilidad colectiva.
La inteligencia artificial seguirá aprendiendo. Las empresas seguirán compitiendo. Y nosotros podremos seguir tranquilos, al menos hasta la próxima declaración.
Porque la seguridad de una tecnología que puede transformar nuestras sociedades no puede depender de la buena voluntad de quienes se benefician de ella. Y, desde luego, no se consigue firmando que cada cual se vigile a sí mismo. Que la IA se vigile a sí misma. Menuda broma.