Sam Altman, CEO de OpenAI, considera que Donald Trump y Xi Jinping ganarían el Premio Nobel de la Paz si llegaran a un acuerdo como dirigentes de Estados Unidos y China sobre el desarrollo de la IA. Ambos presidentes se verán las caras el 24 de septiembre en la Casa Blanca, pero si están de acuerdo en algo es en no poner límites a la carrera de esta nueva industria tecnológica.

Frenar o no, y cómo, estas son las principales cuestiones que se plantean en un intenso debate estas últimas semanas. Múltiples voces relacionadas con el sector que desarrolla la IA discuten públicamente sobre lo cerca que está la tecnología de los riesgos más peligrosos.

Los líderes de Anthropic y OpenAI piden frenar el desarrollo y reforzar las medidas de seguridad, aseguran que están inmersos en una carrera que no les permite lanzamientos de modelos prudentes. Meta no está de acuerdo en que las empresas privadas tengan las manos tan atadas.

Donald Trump les responde que hay una "conspiración enfermiza" contra la IA y los centros de datos y que la "única contenta es China". En Pekín responden con indignación, acusando a EEUU de volver a la retórica de la Guerra Fría.

Desde Occidente se presenta a China como una peligrosa potencia que está desarrollando sin freno nuevas tecnologías como la IA y la robótica, no solo para conquistar el mercado internacional, sino también como una nueva era armamentística. Sin embargo, Águeda Parra Pérez, analista del entorno geopolítico y tecnológico de China, recuerda que ambas potencias juegan en la misma competición.

“Por parte de Estados Unidos para mantener su ventaja y poderío militar, y por parte de China, para equiparse o poder superar las capacidades estadounidenses”, explica la experta y fundadora de ChinaGeoTech a EL ESPAÑOL-Omicrono

Cómo regula China la IA

El uso abusivo de la IA por parte de adversarios podría "amenazar directamente la seguridad política, institucional e ideológica de China", escribió el ministro de Seguridad del Estado, Chen Yixin, en un artículo publicado el domingo en la revista oficial China Cyberspace.

Este artículo representa uno de los análisis más claros hasta la fecha sobre cómo China evalúa los peligros que plantea la IA. Coincide en el tiempo con la insistencia de los gigantes estadounidenses, pero no hace mención a su llamamiento para frenar el desarrollo.

Chen analiza los riesgos principalmente desde la perspectiva del control político, la soberanía tecnológica, las amenazas extranjeras y la rivalidad estratégica. Lo que describe como "fuerzas hostiles" para librar "guerras de opinión pública" y "guerra cognitiva" encaja con la principal motivación de China para aplicar regulación a la IA.

Aclara Águeda Parra que las autoridades en China hasta ahora se han enfocado principalmente en “controlar el contenido de modo que los modelos de IA no generen información que pueda ir en contra de los intereses ideológicos y de seguridad nacional”. Los deepfakes, los textos e imágenes generados por IA y los bots de redes sociales podrían utilizarse para fabricar rumores políticos.

Aun así, a medida que las capacidades de la IA avanzan rápidamente, China busca reforzar esos controles gubernamentales en otros aspectos. Las instituciones chinas ya solicitan que haya supervisión de los modelos antes de su lanzamiento, pero “en ningún caso serían con actores independientes”, detalla esta analista.

Anthropic fue de las primeras empresas privadas en pedir este año la implantación de figuras independientes que supervisen que los modelos son seguros antes de permitir su lanzamiento. Le han seguido otros como OpenAI, pero desde China la industria es más partidaria de publicar su tecnología en código abierto.

De esta forma, la extensa comunidad internacional de desarrolladores puede analizar su código, un sistema parecido a la revisión de los artículos científicos. También apuesta por precios más bajos que las empresas estadounidenses.

Según un informe de Mozilla, la diferencia de rendimiento entre los modelos de IA de vanguardia de las empresas tecnológicas estadounidenses y los mejores modelos de código abierto de las empresas chinas se ha reducido a tan solo 4,4 meses. Esto explica por qué muchas empresas están optando por los modelos de código abierto, considerablemente más económicos, para tareas rutinarias.

Retirar agentes de IA

Este año China ha incorporado una regulación orientada específicamente a los agentes de IA “para que se puedan bloquear cuando haya una pérdida de control operacional”, indica Águeda Parra.

Para los agentes que operan en sectores sensibles e industrias clave, como la sanidad, el transporte, los medios de comunicación y la seguridad pública, este nuevo marco contempla medidas como la presentación de informes, las pruebas y la retirada de productos problemáticos.

Aún no se han definido las obligaciones legales y los mecanismos de aplicación. Sin embargo, Pekín ha dejado claro que un agente autónomo debe ser identificable, verificable y eliminable en caso de fallos.

Este marco es importante porque traslada el foco legislativo de lo que genera un sistema de IA hacia lo que puede hacer de forma autónoma: un agente que simplemente redacta un documento recibe un trato diferente al de uno que lo presenta, paga una factura o reconfigura una red.

Tal y como recuerda Forbes, Estados Unidos cuenta marcos voluntarios centrados en materias como la ciberseguridad, pero carece de una política nacional equivalente. Este verano, uno de los detonantes del apasionado debate actual, es el hackeo a Hugging Face protagonizado por un enjambre de agentes de IA de OpenAI, el cual ha revelado la falta de control que están alcanzando las empresas en ciertos casos.

Próximo encuentro en Washington

Xi Jinping visitará la Casa Blanca en dos semanas, hasta entonces es previsible que se mantenga vivo el debate sobre frenar y regular la IA para motivar a ambos dirigentes a tratar el tema en su encuentro.

Sin embargo, para Águeda Parra no sería uno de los puntos en la lista de las dos administraciones pues “actualmente las estrategias de ambos países están enfocadas a liderar e impulsar la gobernanza de la IA a nivel mundial”.

Los dos coinciden en llevar la contraria a Anthropic, OpenAI y todas las voces de la industria que piden frenar este sector tecnológico.

No es la primera vez que Xi y Trump se sientan a la mesa con la IA como uno de los platos principales en el menú. Tras una cumbre de dos días en Pekín en el mes de mayo, Trump dijo que hablaron sobre “la posibilidad de colaborar para establecer límites” en materia de IA.

Al preguntar los periodistas en el Air Force One por los tipo de límites, añadió: “Los límites habituales de los que hablamos siempre”.