Miguel Luengo-Oroz.
Construimos sistemas cada vez más capaces de generar texto, predecir resultados y automatizar tareas a una escala y velocidad que muchas veces superan las humanas. Lo que aún no hemos sido capaces de construir son las herramientas que midan qué le están haciendo esas máquinas a nuestra economía, a nuestra cultura o a nuestra forma de relacionarnos. Esta es la conclusión a la que ha llegado el nuevo panel científico de la ONU en su primer informe: las capacidades —y los riesgos— de la IA avanzan más deprisa que las salvaguardas, las políticas y nuestra capacidad para medirlas. Algo que, en realidad, ya intuíamos desde hace años.
El informe preliminar del Panel Científico Internacional Independiente sobre IA de la ONU se publicó el 1 de julio. Este mes se ha publicado el primer mapa científico global de las capacidades de la IA, de sus oportunidades y de los riesgos emergentes que plantea, elaborado por el del Panel Científico Internacional Independiente sobre IA de la ONU. Este grupo está formado por 40 expertos que actúan a título personal procedentes de todos los continentes, un esfuerzo singular por su representatividad geográfica y carácter multidisciplinar con un mandato de la Asamblea General de Naciones Unidas.
El informe preliminar mapea oportunidades concretas en ámbitos como la ciencia, la educación y la agricultura. Destaca el potencial de la IA para la salud, desde el apoyo al diagnóstico hasta la investigación de nuevos tratamientos. Y no solo en los países con más recursos: el informe recoge estudios en la India, Ruanda, y otros contextos del Sur Global. Pero tener acceso a la IA no es lo mismo que beneficiarse de ella. Para que la tecnología sea útil hacen falta modelos contextualizados, profesionales formados, infraestructuras, y confianza en las instituciones.
El informe incluye casi 400 referencias de naturaleza muy diversa: artículos científicos, preprints, informes institucionales, documentos empresariales y piezas periodísticas. Sin embargo, no ofrece un análisis sistemático que permita distinguir entre evidencia sólida, emergente o meramente orientativa. El informe utiliza un lenguaje prudente en varios apartados, podría definirse como el “mínimo común denominador” del consenso.
Al final del documento hay una sección breve “Lagunas y próximos pasos” que enumera ámbitos donde no se ha consensuado una base suficientemente sólida. Entre esos temas están los efectos sobre el mercado laboral, el bioterrorismo, la cadena de suministro de chips o el medio ambiente. En un mundo donde equipararemos energía a inteligencia, el informe sólo menciona brevemente la falta de métodos estandarizados para medir el consumo de energía y agua de la IA. Saber lo que aún no sabemos es probablemente lo más importante para priorizar nuestros recursos y decidir qué riesgos estamos dispuestos a asumir.
Además, el uso de la IA para la guerra quedó excluido expresamente antes de empezar el informe. El mandato de la Asamblea General saca de los términos de referencia la IA para fines militares como los drones y las armas autónomas letales.
En cambio, los derechos humanos sí ocupan un papel central en el informe. Se recogen estudios e implicaciones relacionadas con la privacidad, la discriminación, los derechos de la infancia o el acceso a la justicia. Los derechos humanos, extendidos a su dimensión digital, no deberían caducar cuando nuestras acciones ocurren en el mundo digital ni cuando la realidad queda mediada por sistemas de IA. No es casualidad que días después de la publicación del informe, el secretario general de la ONU António Guterres pidió “líneas rojas” para proteger los derechos humanos. En decisiones donde hay mucho en juego, las máquinas pueden informar, pero los humanos debemos decidir. Mirando atrás encontramos ideas interesantes que la humanidad ha utilizado para gobernar la tecnología y esbozar líneas rojas: el principio de precaución nos ha llevado a no clonar o editar el genoma de seres humanos indiscriminadamente (aunque técnicamente sea posible), o la creación de un organismo como la OIEA para supervisar las armas nucleares.
La ciencia es la base de este informe, y su valor viene tanto por lo que cartografía como por las zonas inexploradas sin consenso que se atreve a señalar. El día de la presentación del informe Yoshua Bengio (premio Turing y uno de los padres de la IA moderna) y Maria Ressa (periodista y premio Nobel), copresidentes del Panel, escribieron en el mensaje que acompañó al informe que estamos librando tres batallas al mismo tiempo: la batalla por la verdad y la confianza, la batalla por la capacidad humana de actuar frente a las máquinas y la batalla por un futuro compartido. En las tres, la integridad de la información es fundamental.
Estas reflexiones cobran una relevancia inmediata: en pocos días, el 2 de agosto, Europa pondrá a prueba su capacidad real de vigilar la IA, cuando entren en vigor las obligaciones de transparencia de la pionera Ley de IA europea —la respuesta regulatoria más concreta que existe hoy a la advertencia de la ONU. Pero saber cuándo algo ha sido creado por una máquina es solo la mitad de la ecuación; la otra mitad es saber qué hacemos con lo que sigue siendo genuinamente humano.
Quizá, además del derecho al olvido, la IA nos obligue a pensar en el derecho a ser recordados: el derecho a que nuestra identidad, nuestra autoría “made in human”, nuestra historia y nuestra humanidad sea preservadas.
*** Miguel Luengo-Oroz forma parte del Comité científico de la Fundación Hermes, es CEO de Spotlab.ai y ex-Chief Data Scientist de la ONU.