Donald Trump con Mark Zuckerberg de Meta y Dario Amodei de Anthropic Omicrono
Trump firma un acuerdo con los líderes de la IA para reforzar la seguridad: más controles internos e independientes
En busca de una imagen más positiva, Trump también ha firmado una orden ejecutiva para sustituir el término "IA" por "superinteligencia (SI)".
Más información: Quién es el responsable cuando una IA ejecuta un ciberataque: de hackers a agentes pasando por las multinacionales
Los líderes de las principales empresas desarrolladoras de IA de Estados Unidos se han reunido con Donald Trump para firmar un acuerdo voluntario en favor de la seguridad de esta nueva tecnología. Este encuentro llega tras semanas de debate en el que una parte de los presentes ha hablado de los riesgos que la IA más avanzada plantea para la humanidad, y la otra parte rechaza frenar su desarrollo y quita importancia al peligro.
Sundar Pichai (Google), Elon Musk (XAI), Dario Amodei (Anthropic), Mark Zuckerberg (Meta) y Jensen Huang (Nvidia) firman este nuevo acuerdo que propone reforzar la seguridad de la IA mediante controles internos y supervisión independiente. En nombre de OpenAI, responsables de ChatGPT, ha firmado Greg Brockman presidente de esta empresa. Sam Altman, director ejecutivo de OpenAI ha sido uno de los más activos en pedir una regulación y frenar la IA en las últimas semanas.
El debate y este acuerdo parten de la alerta que distintas voces de la industria han dado sobre los peligros que el avance de esta tecnología plantean. En los últimos meses, el entrenamiento de agentes de IA autónomos ha dado como resultado ciberataques a empresas y gobiernos por parte de la IA como medida para conseguir el objetivo que se le había marcado.
Junto a este nuevo acuerdo, el presidente de Estados Unidos firmó este martes una orden ejecutiva para sustituir el término "inteligencia artificial" por "superinteligencia" en las comunicaciones oficiales del Gobierno federal. Las empresas de los que han firmado el acuerdo también están usando el nuevo término promovido por el presidente.
Como parte de esta campaña para mejorar la imagen de esta tecnología en el país, Trump anunció hoy mismo una renovación de los servicios federales online apoyados por IA, con los que la Administración pretende ampliar sus funciones para que los usuarios puedan realizar trámites como solicitar pasaportes y acceder a prestaciones públicas de manera más cómoda y eficiente.
El acuerdo
Según una copia del acuerdo publicada por Trump en sus redes sociales, las compañías acordaron trabajar con auditores independientes para evaluar si los sistemas de IA funcionan según lo previsto. Asimismo, las empresas afirmaron que se asegurarían de que sus herramientas de IA no piratearan ni accedieran a sistemas técnicos de forma no autorizada.
Great to meet today with @POTUS, @JDVance, @SpeakerJohnson and Administration + tech leaders. Important conversation and we signed today the White House Accord on Super Intelligence.
— Sundar Pichai (@sundarpichai) September 30, 2026
As I shared today, Google has invested hundreds of billions in the last two years alone, with… pic.twitter.com/04EirBfyUX
Las empresas se comprometen, según este documento, a implementar controles internos robustos para monitorear las capacidades y la alineación de los modelos durante el entrenamiento y desarrollo en materias de ciberseguridad y bioseguridad.
Trump indicó que está considerando la posibilidad de crear un comité de diez personas para supervisar la seguridad de las herramientas de IA, aunque no especificó quiénes serían sus miembros. Añadió que pronto nombrará a un nuevo funcionario para dirigir las políticas de la Casa Blanca en materia de IA.
Preguntado por los periodistas, Dario Amodei ha recordado los beneficios de la IA y repitiendo las palabras de Trump: "quien gane la IA, gana". Esta frase se refiere a la competencia directa con China por ofrecer los modelos más avanzados. China, a diferencia de las empresas estadounidenses, acostumbra a lanzar en abierto sus modelos.
La reputación de la IA
"Estas grandes, poderosas, muy ricas y muy inteligentes empresas van a hacer contribuciones enormes a las comunidades", dijo Trump más tarde a los periodistas reunidos en la entrada de la Casa Blanca, rodeado por los ejecutivos de las empresas.
El presidente estadounidense se encuentra esta misma semana con varias previsiones que indican su caída de popularidad por el coste de la guerra con Irán y la subida de precios. El dirigente se ha mostrado reacio a frenar la carrera de la IA y durante la última visita de Xi Jinping, presidente de China, a la Casa Blanca la semana pasada se habló de la IA sin llegar a un cambio de postura por parte de ambos dirigentes.
Con este acuerdo y el cambio de nombre de esta tecnología a "Superinteligencia" el presidente impulsa un cambio más positivo a un debate que durante semanas ha planteado esta tecnología como capaz de acabar con la humanidad en unos años.
