Volker Turk, jefe de derechos humanos de la Organización de las Naciones Unidas (ONU), lanzó ayer, lunes 7 de septiembre, desde Ginebra (Suiza) una severa advertencia global: el avance descontrolado de la inteligencia artificial (IA) representa una amenaza histórica.

Durante el inicio de su segundo mandato, Turk exigió "garantías absolutas" a las grandes empresas tecnológicas para evitar que la IA desestabilice los sistemas democráticos y los servicios esenciales mundiales, según indican desde Reuters.

El Alto Comisionado fue rotundo en su intervención ante el consejo de 47 miembros. "Comparto la preocupación de los expertos del sector de que la IA avanzada pueda suponer un riesgo existencial para la humanidad", declaró, haciendo un llamamiento para establecer un marco de seguridad global "antes de que sea demasiado tarde".

Este temor institucional no es aislado y coincide con el diagnóstico de los grandes pioneros de la industria.

Un reflejo de esta urgencia son las recientes palabras del fundador de Microsoft, Bill Gates, quien ha advertido en esta misma línea que "la era de la IA será uno de los periodos más turbulentos de la historia de la humanidad y no estamos listos para afrontarlo".

Desde la oficina de la ONU respaldan este nivel de alerta señalando que los fallos en sistemas de IA potentes podrían perturbar la infraestructura crítica de los países.

Como ejemplo de esta pérdida de control, el discurso hizo referencia al incidente de julio en la plataforma Hugging Face, donde un enjambre de agentes de OpenAI hackeó sistemas de código abierto.

Esto demuestra, según Turk, que las capacidades tecnológicas avanzan mucho más rápido que las barreras de contención.

El "poder casi ilimitado" del sector tecnológico

Uno de los puntos clave del discurso fue la denuncia sobre la concentración del sector. Turk alertó de que el control de esta tecnología recae sobre un puñado de líderes que ostentan "un poder casi ilimitado", apuntando indirectamente a gigantes como Meta, OpenAI, Anthropic y Google.

Para frenar esta escalada, la ONU plantea exigencias claras y directas. En concreto, Turk reclama que los países desarrolladores de IA y aquellos involucrados en sus cadenas de suministro se unan urgentemente para pactar "líneas rojas" inquebrantables a nivel internacional.

Asimismo, exige una mayor responsabilidad corporativa para obligar a estas grandes empresas a mitigar los riesgos y evitar interrupciones masivas en los servicios básicos, las comunicaciones y los procesos democráticos.

Más allá del entorno digital, Turk abordó cómo la tecnología ya está vulnerando los derechos humanos en los campos de batalla. Expresó su "horror" ante los informes sobre el presunto uso de drones totalmente autónomos por parte de Rusia en Ucrania.

En este sentido, pidió la prohibición inmediata de armamento capaz de quitar vidas sin ningún tipo de intervención humana.

En un discurso de amplio alcance que repasó un mundo con más de 60 guerras activas, Turk también exigió responsabilidades a Estados Unidos por las muertes de migrantes bajo custodia y se comprometió a investigar los intereses corporativos que financian los conflictos armados. "No dudaremos en desenmascarar a los actores en la sombra", sentenció el Alto Comisionado.