La inteligencia artificial (IA) está presente en nuestra vida diaria. Pero, aunque parezca objetiva, la IA puede reproducir desigualdades existentes en la sociedad, incluyendo el llamado sesgo de género.
Este se produce cuando un sistema automatizado trata de forma diferente a mujeres y hombres sin una justificación técnica válida. Sucede porque los algoritmos aprenden de datos históricos, que a menudo muestran desigualdades existentes en la sociedad.
Por ejemplo, un sistema de selección de personal entrenado con currículums mayoritariamente masculinos podría favorecer inconscientemente a candidatos hombres, reproduciendo patrones del pasado.
¿Cómo detectar estos sesgos? Cualquier persona puede hacer pruebas simples:
- Probar distintos nombres de género: haz la misma consulta usando un nombre femenino y uno masculino con el mismo perfil. Si el sistema responde de manera distinta, podría indicar sesgo.
- Observar el lenguaje: algunos modelos asocian profesiones o roles con un género específico, por ejemplo, ingeniero con hombres y asistente con mujeres.
- Pedir explicaciones: las plataformas responsables deben poder explicar cómo toman decisiones automatizadas. Si no es posible, conviene cuestionar los resultados.
¿Qué dice la regulación europea al respecto? Europa ha dado pasos importantes para garantizar que la IA sea justa y transparente. Dos regulaciones clave son:
- AI Act (Reglamento Europeo de Inteligencia Artificial): clasifica los sistemas según su nivel de riesgo y establece obligaciones más estrictas para los de alto riesgo, como selección de personal, educación o crédito. Asimismo, exige que los datos sean representativos y revisados, obliga a realizar auditorías periódicas y a documentar cómo se corrigen los sesgos, y reconoce el derecho a recibir explicaciones y a impugnar decisiones automatizadas.
- GDPR (Reglamento General de Protección de Datos): protege la privacidad, permite revisar decisiones automatizadas que afecten a las personas y protege frente a decisiones totalmente automatizadas que tengan efectos legales o importantes sobre las personas.
Hacia una IA más equitativa
Lejos de ser solo un riesgo, la IA también puede ser una herramienta poderosa para promover la igualdad. Por ejemplo:
- Detección de sesgos en procesos internos: las empresas pueden usar IA para revisar salarios, promociones y evaluaciones, identificando diferencias injustificadas entre hombres y mujeres.
- Recomendaciones inclusivas: los sistemas pueden diseñarse para sugerir perfiles diversos en selección de personal o en equipos de proyectos.
- Educación y concienciación: a través de plataformas educativas que pueden usar IA para promover la igualdad de oportunidades y combatir estereotipos de género.
El sesgo de género no es inevitable. Con datos diversos, auditorías constantes y equipos de desarrollo inclusivos, la tecnología puede revertir patrones discriminatorios, convirtiéndose en una aliada de la igualdad en lugar de un reflejo de lo contrario.
*** Paula González Calvo es abogada especialista en nuevas tecnologías y regulación emergente y socia young de WLW (Women in a Legal World).