António Guterres urge a regular la inteligencia artificial para evitar que evolucione sin control y proteger a la humanidad.
El secretario general de la ONU advierte de los peligros de sistemas de IA sin rendición de cuentas y rechaza el uso de "robots asesinos".
Guterres propone un marco multilateral y supervisión independiente para la gestión de riesgos de la IA, pidiendo responsabilidad a los gobiernos más avanzados.
También alerta sobre la posible división del mundo en bloques enfrentados y defiende la cooperación internacional y el respeto al derecho internacional.
El secretario general de la ONU, António Guterres, ha hecho un llamamiento este martes para gobernar la inteligencia artificial (IA) antes de que esta lo haga por su cuenta ante la alerta de algunos de los principales líderes del sector por su avance descontrolado.
"La inteligencia artificial debe ser moldeada por la humanidad, con la humanidad y para toda la humanidad", ha asegurado Guterres en la apertura de su última Asamblea General en el cargo.
El secretario general ha situado la IA como una de las crisis a las que se enfrenta el mundo durante el siglo XXI y ha apuntado que la manera en la que se gestiona determinará el futuro: "Los propios desarrolladores que crean estos sistemas están dando ahora la voz de alarma".
Según ha rememorado, hace casi 10 años, cuando la IA "apenas estaba en el punto de mira", advirtió de los riesgos que podía tener al llegar al cargo.
"Una década después, la IA es, sin duda, un enorme potencial para hacer avanzar la medicina, acelerar los descubrimientos científicos, ampliar las oportunidades y mejorar la vida de las personas", ha manifestado.
En este sentido, ha defendido que la tecnología no es peligrosa, sino los sistemas "sin rendición de cuentas", el poder sin control y la toma de decisiones sin transparencia.
"Los robots asesinos no deben tener cabida en nuestro futuro", ha aseverado tras apuntar que las máquinas nunca deberían poder decidir sobre la vida de nadie.
Guterres ha apostado por trabajar en un marco multilateral de gestión de riesgo de la IA respaldado por una supervisión creíble e independiente y ha pedido a los gobiernos con las capacidades en IA más avanzadas, que tengan las mayores responsabilidades con la humanidad.
"El primer deber de un gobierno es proteger a su pueblo. Los gobiernos deben asumir sus responsabilidades", ha defendido.
El diplomático ha alertado de que esta nueva forma de poder, que considera "demasiado concentrada" y que avanza "a una velocidad extraordinaria", requiere de una estrategia común para la que se deberían dejar de lado las tensiones geopolíticas.
Un mundo dividido en bloques
Guterres también alertó del riesgo de que se produzca una "gran fractura" global y el mundo se divida en dos bloques enfrentados con sistemas económicos, tecnológicos y de seguridad independientes, e instó a las potencias a evitar los enfrentamientos y apostar por la cooperación.
El diplomático portugués señaló que el mundo se dirige hacia un sistema multipolar, pero puede hacerlo por dos caminos: el de la fragmentación y el enfrentamiento o el de la interdependencia, que, a su juicio, evitaría la ruptura global.
El primero, que definió como "la trayectoria que seguimos" mayoritariamente a día de hoy, se basa en tensiones crecientes, desconfianza y relaciones sin cooperación internacional, mientras que el segundo supone un mundo "interdependiente" que se sostiene por una red de alianzas con el derecho internacional en el centro.
"Construir ese futuro comienza por reconocer, especialmente por parte de las superpotencias, que su poder no es tan súper. Su poder tiene límites. Los acontecimientos de los últimos años lo han dejado inequívocamente claro", aseveró.
Guterres advirtió que el futuro estará marcado por cómo la humanidad afronta la crisis del poder: la del poder de la guerra sobre la paz, de quienes concentran la riqueza, del que agrava la crisis climática y el que ha desatado la inteligencia artificial (IA).
El secretario urgió a poner fin a los conflictos en Oriente Medio, Ucrania y Sudán, defendió el derecho de todas las naciones a desarrollarse con las mismas oportunidades, apostó por un plan nacional para dejar de lado los combustibles fósiles e instó a establecer un marco de condiciones comunes para la implantación de la IA con la que hacer frente a los riesgos que pueda suponer.
"Mantendré ese espíritu de firmeza y determinación a lo largo de cada uno de los 100 días que me quedan en el cargo", declaró para reafirmar su compromiso con los valores y principios de Naciones Unidas.