La expansión desenfrenada de la inteligencia artificial plantea interrogantes profundos sobre el impacto que puede tener este crecimiento en la sociedad. Cuando los modelos automatizados procesan grandes volúmenes de datos, corren el riesgo de perpetuar o amplificar sesgos discriminatorios arraigados.
Este desafío ha centrado el debate de la tercera mesa redonda en la primera jornada del V Observatorio ODS: DiagnósticODS, organizado por ENCLAVE, EL ESPAÑOL e Invertia en el CaixaForum de Madrid.
La conversación conducida por la redactora de ENCLAVE Mariana Goya ha contado con expertas de primer nivel: Mariola Urrea, catedrática de Derecho Internacional y de la Unión Europea y vicerrectora de la Universidad Internacional Menéndez Pelayo (UIMP), María José Sánchez Yago, CEO de Lidero, y Ana Sainz, directora general de Fundación SERES (Sociedad y Empresa Responsable).
Entre las tres han evaluado cómo evitar que la automatización de procesos termine por institucionalizar la injusticia social. Una cuestión en la que el marco regulatorio europeo se posiciona como una respuesta pionera y ambiciosa ante esta problemática de alcance global.
Urrea ha destacado que el Reglamento de IA de la Unión Europea es una norma de obligatorio cumplimiento sin margen para la distorsión estatal.
La catedrática ha explicado que la normativa comunitaria califica ciertos sistemas como de alto riesgo, precisamente cuando impactan en sectores clave como la salud, la educación o el empleo. Además ha enfatizado que estas áreas están íntimamente ligadas a la salvaguarda de los derechos fundamentales de los ciudadanos.
Por su parte, la perspectiva corporativa exige un cambio profundo en el diseño original de estas tecnologías. Sánchez ha sostenido que la regulación, aunque absolutamente necesaria y sofisticada, debe complementarse con una firme convicción moral en la propia concepción del sistema.
La CEO de Lidero advirtió de que la velocidad de evolución de la inteligencia artificial exige ser proactivos. Sánchez ha argumentado que resulta imprescindible inyectar un marco ético por diseño para que la tecnología promueva activamente los derechos humanos y la consecución de los Objetivos de Desarrollo Sostenible.
También ha habido espacio para hablar de la preocupación por la transmisión sistemática de los prejuicios humanos a través de la máquina. Sainz, de Fundación SERES, ha señalado durante su intervención que cualquier decisión individual con sesgo resulta puntual, pero al integrarse en algoritmos "se automatiza e institucionaliza a una escala y velocidad infinitamente mayores".
Por eso ha instado a abrazar la tecnología desde una gobernanza responsable. Además, ha defendido que un diseño consciente y guiado por valores compartidos permite amplificar los impactos positivos, utilizando la propia inteligencia artificial para detectar y mitigar las discriminaciones.
Como ejemplo, ha usado el ámbito laboral y su necesidad de establecer controles estrictos sobre estas herramientas. Sánchez ha remarcado que la inteligencia artificial ha dejado de ser una simple herramienta y requiere designar responsables humanos con nombres y apellidos, garantizando la máxima transparencia y auditoría.
Frente al peligro de la opacidad algorítmica, los mecanismos de reclamación tradicionales deben mantenerse vigentes. Urrea ha aclarado que las vías legales no cambian por usar agentes automatizados, aunque la complejidad técnica para detectar el origen exacto del sesgo en el algoritmo sea muy superior.
El impacto social de los sesgos en los modelos automatizados
La viabilidad de mantener el control humano exclusivo en las decisiones futuras abre un intenso debate. Urrea ha planteado en esta conversación que la alfabetización crítica de los ciudadanos es un reto ineludible para no asimilar sin cuestionar los resultados que proyecta la tecnología en el día a día.
La integración de la inteligencia artificial en el tejido organizativo va más allá del departamento técnico. Sainz ha afirmado que adoptar esta tecnología constituye una decisión de liderazgo estratégico que exige mantener una supervisión humana con capacidad real para corregir y alterar los resultados del sistema.
Frente al sesgo puramente técnico, las ponentes han defendido volver a la dimensión intangible de los valores. La CEO de Lidero ha reivindicado la necesidad de inyectar lo que ha llamado un "instinto maternal" en los sistemas, garantizando que el objetivo primordial sea el cuidado y la protección de la humanidad.
Las expertas han coincidido al concluir que la tecnología no debe guiarse únicamente por criterios de eficiencia o productividad. La catedrática de Derecho Internacional ha insistido en que las decisiones automatizadas deben supeditarse a los valores democráticos y constitucionales que fundamentan la convivencia en nuestras sociedades.