En los últimos días, las redes sociales y los medios de comunicación se han hecho eco de los mensajes publicados en la red social X por Jacob Coxon, exinvestigador de OpenAI y Anthropic.
Coxon advierte que no deberíamos subestimar los riesgos de la inteligencia artificial, y destaca la importancia de que los objetivos de las empresas proveedoras de sistemas avanzados de este tipo estén alineados con los valores e intereses humanos.
A medida que las compañías implementan el uso de IA para optimizar recursos y procesos, surgen también preguntas sobre hasta qué punto los prejuicios pueden trasladarse a esta tecnología y cómo puede promoverse su desarrollo ético.
Esta cuestión adquiere especial relevancia en la contratación de talento femenino, donde su utilización podría generar efectos discriminatorios al reproducir sesgos históricos y sistémicos.
Cada vez existen en el mercado más herramientas de inteligencia artificial dirigidas a apoyar a las organizaciones en sus procesos de selección mediante el filtrado de currículums, evaluación de candidatos o la publicación de ofertas de empleo.
¿Qué ocurre, entonces, cuando la propuesta para identificar al aspirante idóneo refleja patrones presentes en las decisiones humanas del pasado?
De acuerdo con la literatura científica, son diversos los factores que pueden generar sesgos en los resultados proporcionados por sistemas de IA. Entre otros, se encuentran los propios datos utilizados para entrenarlos.
Si determinados colectivos aparecen infrarrepresentados —por ejemplo, si la información empleada para entrenar la herramienta refleja una menor presencia de mujeres en puestos directivos—, el modelo puede reproducir y contribuir a perpetuar los patrones existentes.
La IA se ha colado en los procesos de selección.
El ser humano en el centro
En este contexto, el pasado 2 de agosto comenzaron a ser de aplicación numerosas disposiciones del Reglamento (UE) 2024/1689 de Inteligencia Artificial.
Se establece así un marco común para el desarrollo y uso de la IA en la Unión Europea que persigue, entre otros objetivos, garantizar un elevado nivel de protección de los derechos fundamentales.
Teniendo en cuenta el impacto negativo que la utilización de estos sistemas podría tener sobre la igualdad, una de las cuestiones a las que el legislador europeo ha decidido prestar especial atención es precisamente su presencia en el ámbito del trabajo y la selección de personal.
Por ello, el Reglamento califica como "alto riesgo" determinadas herramientas de inteligencia artificial destinadas a la contratación, selección y promoción de personal estableciendo una serie de obligaciones reforzadas para su desarrollo y posterior empleo.
En materia de datos y gobernanza de estos, precisamente para prevenir los peligros señalados, la normativa establece que los conjuntos de este tipo de entrenamiento, validación y prueba utilizados por determinados sistemas de alto riesgo estén sujetos a prácticas adecuadas de gobernanza y gestión.
Además, deberán ser pertinentes, suficientemente representativos y, en la mayor medida posible, carecer de errores y ser completos en vista de su finalidad prevista.
El Reglamento exige que se examinen los posibles sesgos que puedan afectar a los derechos fundamentales o dar lugar a situaciones de discriminación, así como que se adopten medidas para detectarlos, prevenirlos y mitigarlos adecuadamente.
La normativa aprobada por la UE garantiza el cumplimiento de los derechos fundamentales.
Por otro lado, en materia de transparencia, los sistemas de IA de alto riesgo deberán ser lo suficientemente transparentes para que sus usuarios puedan interpretar y utilizar correctamente sus resultados, debiendo contar con instrucciones que incluyan aspectos como los niveles de precisión de la propuesta.
Asimismo, con el objetivo de prevenir o minimizar los peligros para la salud, la seguridad y los derechos fundamentales, estos modelos deberán diseñarse y desarrollarse de forma que puedan ser supervisados eficazmente por personas físicas durante su uso.
Este proceso deberá permitir, además, prevenir el denominado "sesgo de automatización", que se refiere a la tendencia a confiar, automáticamente y sin contrastar, en los resultados generados a la hora de actuar.
En resumen, el reto que nos plantea la IA no consiste en determinar si las empresas deben utilizarla o no en sus procesos de selección, sino en garantizar que su empleo vaya acompañado de las salvaguardas necesarias.
Un adecuado cumplimiento normativo debe contribuir a evitar que los sesgos del pasado se transformen, a través de la tecnología, en decisiones aparentemente objetivas que puedan perjudicar el acceso, la promoción y el desarrollo profesional del talento femenino.
Sofía Abellán Bufort
Abogada de Privacidad, Tecnología y Propiedad Intelectual e Industrial en Cases Lacambra y socia de Women in a Legal World (WLW), organización sin ánimo de lucro dirigida a la promoción del talento femenino en el sector legal.