Mónica Villas, consultora de tecnología y cofundadora de OdiseIA.
Durante la última década la conversación sobre la inteligencia artificial ha cambiado varias veces de temática. Primero nos preocupaban los sesgos y los principios éticos, después nos preguntamos si debíamos frenar su desarrollo, y hoy hablamos sobre todo de productividad, eficiencia y competitividad geopolítica. La tecnología es la misma, pero las preguntas que nos hacemos sobre ella son muy diversas. Y quizá eso sea lo más interesante de la historia reciente de la IA.
A comienzos de 2015, empezamos a ver un aumento masivo de publicaciones sobre la necesidad del uso responsable de la IA. En ese momento, la IA comienza a desplegarse de manera masiva en las empresas, gracias a la gran cantidad de datos disponibles y la mejora de la computación, y empieza a surgir el cuestionamiento en la sociedad acerca de cómo usarla de manera responsable. Afloran entonces las primeras preocupaciones sobre los sesgos algorítmicos, la toma de decisiones automatizadas sin supervisión humana o las noticias falsas, entre otros. Uno de los primeros documentos publicados con directrices éticas de la IA son los principios de Asilomar. Estos principios ponen el foco en el uso de la IA de manera que sea segura y beneficiosa para la humanidad. Este documento es el germen de numerosas publicaciones posteriores, desde todos los ámbitos de la sociedad, que profundizan en la necesidad de establecer unos principios éticos para el uso responsable de la IA.
A partir de este momento muchas empresas, especialmente las tecnológicas, empiezan a publicar sus principios éticos de la IA donde aparecen palabras como equidad, explicabilidad, responsabilidad o privacidad entre otras. Además, la Unesco publica en 2021 un documento muy relevante también sobre principios, que es aprobado por unanimidad por sus 193 miembros. Desde 2021 se multiplican las reuniones, foros y conferencias internacionales acerca de la necesidad de la gobernanza global de la IA. Asimismo, surgen think tanks, ONGs de derechos digitales y organizaciones multidisciplinares en todas partes del mundo como Ada Lovelace Institute, AlgorithWatch, AI4 people, que publican principios, recomendaciones sobre IA ética o hacen análisis sobre su impacto en el ámbito social.
A finales de 2022, el surgimiento de la IA generativa consigue poner más atención aún en estas temáticas de uso responsable teniendo en cuenta las nuevas capacidades de los LLMs. Estas nuevas capacidades inclinan más la balanza hacia los riesgos que hacia los beneficios. Los problemas relacionados con la privacidad, la publicación de nuevas funcionalidades casi cada semana y el desconocimiento de hacia dónde puede llevarnos esta “nueva IA” empieza a generar mayor preocupación en la sociedad.
A principios de 2023, esta preocupación se traduce en varios hitos a nivel mundial. En primer lugar, la propuesta de pausa de la IA, publicado por el Future of Life Institute pedía parar modelos tan potentes como GPT-4 para poder reflexionar primero sobre como mitigar sus riesgos. Este manifiesto es apoyado por personalidades influyentes como Elon Musk, Steve Wozniak o Yuval Harari y generó interesantes reflexiones, pero no alcanzó ningún cambio significativo. Sin embargo, si hubo un segundo movimiento más enfocado a la “seguridad de la IA” que pedía un consenso similar global al del uso de tecnologías, como la energía nuclear, que puede proporcionar grandes beneficios, pero también grandes perjuicios a la sociedad.
Este debate culminó con la organización de la conferencia de Bletchley a finales de 2023, que terminó con una declaración firmada por la Unión Europea y el resto de países asistentes, incluyendo países tradicionalmente enfrentados como Estados Unidos o China. A esta conferencia también asistieron los CEOs de las compañías tecnológicas más relevantes sobre IA, OpenAI, Microsoft, Nvidia, Anthropic o Google, entre otros.
En ese momento, noviembre de 2023, el mensaje a la sociedad es de un aparente consenso internacional en torno a la seguridad y la gobernanza de la IA con el compromiso de los principales actores relevantes. Sin embargo, el consenso duró poco. A partir de 2024, las preguntas sobre gobernanza, supervisión o riesgos sistémicos son desplazadas por otras mucho más inmediatas: cómo implantar la IA, cuánto puede aumentar la productividad o que empresa de IA va a liderar la carrera tecnológica.
Afortunadamente, desde inicios de este año, parece que vuelve a haber algunas señales de cambio, volviendo al debate social la necesidad de supervisión humana y el uso de la IA de manera responsable. No podemos olvidar que la IA no es una tecnología cualquiera, toma decisiones por nosotros, y la pérdida de control en determinados casos puede ser catastrófica. Con los avances tan relevantes en los últimos meses de los LLMs y ahora los agentes, este impacto puede ser aún mayor.
A principios de año Anthropic, creador de Claude, publica uno de los primeros marcos operativos de IA que enuncia unos principios para establecer un comportamiento del modelo. Para muchos seguramente ha pasado desapercibido, pero si lo analizamos en detalle me parece una propuesta de cambio relevante. Es un marco operativo escrito por IA para la IA, es decir, aprovechando la capacidad de lenguaje natural Anthropic escribe las reglas para ayudar a Claude a la toma de decisiones.
Este marco describe cuatro principios clave alrededor de la seguridad, la ética, el cumplimiento de las políticas de Anthropic y el beneficio a proporcionar a los usuarios de Claude. Pero lo que me parece más significativo es que estos principios actúan en el orden en el que están redactados, es decir la privacidad o la ética para la toma de decisiones de Claude tendrán prioridad frente a las políticas de Anthropic o el beneficio para los usuarios.
El primer pensamiento acerca de ello es que puede ser una estrategia de marketing. Sin embargo, cuando la siguiente acción de Anthropic es retirar uno de sus productos del mercado, y con muy poco tiempo de diferencia ponerle límites al gobierno de Estados Unidos sobre el uso de su IA, el discurso suena mucho más coherente y no tanto a marketing. Es importante recordar también que Anthropic surge de una escisión de OpenAI, por no estar de acuerdo en determinados usos, y que actualmente es uno de sus mayores competidores.
Curiosamente, el uso de Claude ha crecido exponencialmente en los últimos meses, marketing o no, ha tenido su efecto en las ventas, ¿ha sabido la compañía capturar la preocupación de la sociedad y utilizarlo como “gancho”? o ¿realmente es una preocupación por el uso responsable de la IA?
Otra reciente señal de cambio que me parece también significativa es la publicación de la nueva encíclica del Papa León XIV, “Magnifica Humanitas” dedicada en su totalidad a la inteligencia artificial. Cuando la Iglesia ha considerado necesario dedicar una encíclica entera a esta tecnología, es que hay algo que está cambiando en la sociedad. La encíclica vuelve a resaltar la urgencia de un uso responsable de la IA así como la necesidad de volver a poner el foco en la persona.
Quizá Anthropic esté haciendo marketing o la Iglesia simplemente no quiera quedarse fuera de uno de los grandes debates de nuestro tiempo. Pero incluso si ambas cosas fueran ciertas, hay un hecho difícil de ignorar: después de casi tres años hablando sobre todo de productividad, eficiencia y competitividad, vuelve el debate social sobre los límites a establecer en el uso de la IA.
Porque el verdadero reto de la inteligencia artificial nunca ha sido únicamente tecnológico. La cuestión es si seremos capaces de decidir como sociedad qué futuro queremos construir con ella antes de que esa decisión salga del ámbito humano.
***Mónica Villas, consultora de tecnología y cofundadora de OdiseIA