Ilustración con Donald Trump y Xi Jinping en su anterior reunión en Corea del Sur

Ilustración con Donald Trump y Xi Jinping en su anterior reunión en Corea del Sur Omicrono- ChatGPT-Reuters

Tecnología

La IA, sobre la mesa de Trump y Xi: China y EEUU, ante un posible acuerdo para evitar que esta tecnología cause conflictos

Trump y Xi Jinping vuelven a darse la mano en un encuentro en Pekín en el que se espera que se hable de un posible acuerdo para evitar los riesgos de la IA.

Más información: Utopía feliz o apocalipsis digital: qué es la AGI y por qué es la inteligencia artificial que puede cambiar la vida humana

Publicada
Actualizada

Donald Trump, presidente de los Estados Unidos, pasará los próximos días en Pekín reunido con Xi Jinping, líder de China. Esta nueva cumbre podría redefinir las relaciones internacionales tanto en conflictos como la guerra de Irán y la crisis energética que ha provocado, como en un nuevo acuerdo para limitar los riesgos de la inteligencia artificial.

Los principales puntos sobre la mesa son la guerra de Irán, sí, y el comercio, pero todo está relacionado con la última revolución tecnológica: la inteligencia artificial. "El nivel actual de desarrollo de IA requiere que su aplicación lleve asociada una supervisión directa en determinados ámbitos por las implicaciones que puede tener, sobre todo en escenarios de conflictos, o ante la posibilidad de que se produzcan ciberataques y sabotajes si la IA interpreta mal los datos", explica Águeda Parra Pérez, analista del entorno geopolítico y tecnológico de China.

Trump y Xi se vieron cara a cara por última vez en octubre en Corea del Sur. Entonces, acordaron acabar con la guerra comercial que habían iniciado, con aranceles por parte de Estados Unidos y con la amenaza de China de cerrar el suministro de tierras raras.

De este nuevo encuentro depende que se mantenga o amplíe esta intención de colaboración entre ambas potencias. Desde Pekín han hecho hincapié en las “tres t”: aranceles (tariffs, en inglés), tecnología y Taiwán, que Pekín sigue afirmando que forma parte de su territorio. Trump, por su parte, viaja con un séquito de magnates tecnológicos como Elon Musk, de Tesla o Tim Cook, de Apple. La lista incluye a Boeing, Qualcomm, General Electric y una nutrida representación de los fondos de inversión más poderosos.

El poder de la IA

Desde esa última reunión, Estados Unidos ha iniciado una guerra con Irán, el socio más cercano de China en Oriente Medio. Conflicto en el que se ha recalcado aún más el papel crucial que tiene la Inteligencia Artificial en el uso militar. Esta tecnología se presenta ahora como la nueva arma que puede hacer caer la balanza de un lado u otro. Como ya ocurrió con las bombas nucleares, se exige un acuerdo que evite que se desencadene una crisis que no tenga control.

Entre lo que las dos partes podrían abordar no solo la aplicación de esta tecnología en la guerra, también su aplicación para diseñar nuevos ataques cibernéticos, o biológicos. La IA está facilitando el descubrimiento y diseño de nuevos fármacos o productos químicos. Usos de alto riesgo que podrían limitarse por el bien de ambas partes y el resto del mundo.

Este apretón de manos entre ambas potencias se presenta un mes después del nacimiento de Mythos, el nuevo modelo de IA de Anthropic que ha reavivado el debate sobre los riesgos de esta tecnología si cae en manos contrarias. Mythos ha demostrado una gran eficacia a la hora de identificar cientos de vulnerabilidades y explotarlas de forma autónoma.

En defensa puede ser un gran aliado, pero del bando contrario, da al enemigo un poder que amenaza con descubrir las grietas de todos los sistemas. El Banco Central Europeo ha convocado a las principales entidades financieras de la Eurozona para detallar sus planes de contingencia ante el riesgo que plantea Mythos y otros modelos de IA enfocados en ciberseguridad.

Al mismo tiempo, se ha conocido el manifiesto publicado por Palantir a finales de abril, empresa estadounidense cuyos sistemas se usan en organismos como el Pentágono, el Departamento de Seguridad Nacional, el Servicio de Inmigración y Control de Aduanas (ICE) o el Servicio de Impuestos Internos (IRS), la Hacienda estadounidense. El medio 404media informa esta semana que los agentes del ICE tienen en sus teléfonos un listado de 20 millones de personas gracias a Palantir.

Esta empresa lanzó hace semanas un listado de 22 principios entre los que indicaba que Silicon Valley tenía una deuda con Estados Unidos y debía ofrecer su tecnología para defender Occidente, incluso con armas automáticas. “Nuestros adversarios no se detendrán en debates teatrales sobre los méritos de desarrollar tecnologías con aplicaciones militares y de seguridad nacional críticas”, era uno de los puntos.

"Las empresas han entendido con Trump que la clave para hacer negocios es el poder político, ya no es suficiente con pasar por la vía diplomática", explicaba Frédéric Mertens, profesor de Relaciones Internacionales de la Universidad Europea de Valencia explicaba a EL ESPAÑOL-Omicrono en un anterior reportaje.

Donald Trump y Xi Jinping durante el encuentro que ambos han mantenido en Busan (Corea del Sur).

Donald Trump y Xi Jinping durante el encuentro que ambos han mantenido en Busan (Corea del Sur). Reuters

La carrera por producir los modelos más potentes ya no solo la protagonizan las empresas, los estados fomentan esta rivalidad que puede desencadenar en una crisis en múltiples aspectos. “Tanto Estados Unidos como China abordan el desarrollo de la IA desde diferentes perspectivas", explica Águeda Parra por cuestionario a este medio.

"Mientras que del lado estadounidense es una inteligencia artificial más orientada al entorno empresarial, por parte de Pekín se está impulsando favorecer la adopción a todos los niveles, favoreciendo que sean los titanes tecnológicos los que se encarguen de promover el uso de la IA en los ámbitos de la manufactura avanzada, la industria, pero también directamente accesible al consumidor digital”, dice esta analista y fundadora de ChinaGeoTech.

Posibles líneas de acción

El control de la IA no es tan sencillo como el de las armas nucleares. Los países no pueden acordar no usarla o no desarrollarla y esta tecnología a veces vuela sola cuando presenta una baja alineación, es decir, asegurarse que los sistemas de IA se comporten como se espera, según los valores humanos, y respondan a las instrucciones sin efectos secundarios inesperados.

Una de las primeras soluciones que podrían plantearse en un posible acuerdo es la creación de una línea directa destinada a inteligencia artificial. Equipos especializados por parte de ambos países que colaboren estrechamente ante cualquier peligro o emergencia, como una ciberamenaza. Este sistema ya se ha establecido para temas de defensa y otras posibles crisis, pero en algunos casos Estados Unidos denuncia que desde Pekín son reacios a usar estos canales telefónicos directos.

También se podría plantear una mayor colaboración en el intercambio de información sobre los sistemas de IA y los riesgos que estos presentan como patrones de comportamiento o actores maliciosos. Estados Unidos acusa a China de ser poco colaboradora a la hora de frenar la actividad de numerosas bandas de ciberdelincuencia que operan desde su territorio.

Europa en segundo plano

En 2024, cuando aún habitaba Joe Biden la Casa Blanca, ambas partes acordaron que solo los seres humanos podrían tener autoridad sobre las decisiones relativas a los lanzamientos nucleares. Estados Unidos se quejó entonces de la falta de colaboración por parte de las autoridades chinas. En este caso, se podría acordar limitar el uso de sistemas automáticos en determinadas decisiones de alto riesgo.

En esta cumbre REAIM, varios países europeos firmaron también este acuerdo no vinculante, aunque el papel de Europa en estas negociaciones queda relegado ante la “fragmentación de su defensa y la amplia dependencia que tiene de la tecnología estadounidense en el ámbito militar”, como recuerda a este medio Águeda Parra.

El hecho de que ninguna empresa tecnológica europea figure entre los grandes referentes en el desarrollo de modelos de inteligencia artificial hace más complejo que Europa pueda tomar una voz de liderazgo, asegura esta analista y concluye que “solamente tomando un papel más dinámico, desarrollando estándares tecnológicos europeos, podría Europa representar un papel más activo”.