Instante del acto.
Ofrecido por:
La UDC analiza en A Coruña los sesgos de género y discriminación presentes en la inteligencia artificial
Investigadoras y especialistas abordaron los riesgos de los algoritmos y su impacto en ámbitos como la salud mental, las redes sociales o los seguros
Te puede interesar: De buscar aparcamiento a tener GPS propio: la startup gallega que quiere ser el Google Maps del transporte
La Universidade da Coruña (UDC) reunió este viernes en la Casa do Estudantado a investigadoras y especialistas para analizar los sesgos de género, sociales y discriminatorios que pueden reproducirse a través de los sistemas de inteligencia artificial (IA). La jornada puso el foco en los retos éticos que plantea una tecnología cada vez más presente en diferentes ámbitos de la vida cotidiana.
Durante el encuentro se abordaron cuestiones como la reproducción de prejuicios en los algoritmos, el impacto de la IA en la salud mental, la detección del discurso de odio y del machismo en las redes sociales, el desarrollo de modelos tecnológicos orientados a los cuidados y los posibles riesgos de discriminación derivados del uso de estas herramientas en sectores como el asegurador.
El rector de la UDC, Ricardo Cao, señaló durante su intervención que la inteligencia artificial "no es una tecnología neutral ni ajena a las desigualdades existentes en la sociedad". Según explicó, los sistemas de IA aprenden a partir de datos generados por personas e instituciones, por lo que pueden reproducir e incluso amplificar los sesgos presentes en esa información.
Cao recordó que ya se han conocido casos relacionados con algoritmos utilizados en procesos de selección de personal, concesión de créditos o reconocimiento facial que han generado resultados discriminatorios al reproducir patrones históricos de desigualdad. Ante esta situación, defendió que la respuesta no puede limitarse al desarrollo técnico de los sistemas.
"La solución a este problema no puede limitarse al desarrollo técnico de los sistemas, sino que requiere una ciudadanía crítica y formada en el uso de estas herramientas", afirmó el rector. En este sentido, apostó por reforzar la alfabetización digital, incorporar una mayor diversidad a los equipos que desarrollan estas tecnologías y establecer mecanismos de supervisión y auditoría.
"La IA es un apoyo extraordinario, pero el criterio y la responsabilidad final deben seguir siendo humanos", concluyó.
Los sesgos que la inteligencia artificial puede heredar de las personas
La catedrática de Psicología Experimental de la Universidad de Deusto Helena Matute centró su intervención en la capacidad de la inteligencia artificial para heredar los sesgos presentes en las personas y trasladarlos posteriormente a otros usuarios a través de decisiones automatizadas.
La investigadora explicó que estos sistemas pueden amplificar prejuicios que ya existen en la sociedad e influir en numerosos procesos de toma de decisiones. Por ello, consideró fundamental conocer cómo se generan estos sesgos para poder identificarlos y combatirlos.
Por su parte, Eurídice Cabañes planteó una reflexión sobre los fundamentos ideológicos y económicos que, a su juicio, sustentan buena parte de los actuales modelos de inteligencia artificial. La investigadora cuestionó los enfoques patriarcales, extractivistas y coloniales que considera presentes en parte del ecosistema tecnológico y defendió el desarrollo de "tecnologías de la vida".
Su propuesta pasa por diseñar herramientas desde los contextos locales y orientadas a los cuidados, la reciprocidad, la regeneración y el beneficio común.
La IA para detectar problemas de salud mental
La investigadora y docente de la Universitat Pompeu Fabra Ana Freire analizó el potencial de la inteligencia artificial para detectar y comprender problemas relacionados con la salud mental mediante el estudio de contenidos publicados en redes sociales.
A partir de un estudio sobre la identificación de señales relacionadas con la anorexia nerviosa, explicó cómo pueden introducirse sesgos tanto en los datos utilizados para entrenar los sistemas como en su representación o en el propio diseño de los modelos.
Freire advirtió además de que disponer de una mayor cantidad de información no garantiza por sí mismo que los sistemas sean más justos si determinados colectivos continúan estando infrarrepresentados en los datos utilizados.
Una herramienta para detectar el machismo directamente en gallego
La profesora de la UDC Lucía Álvarez presentó los avances de un proyecto destinado a desarrollar herramientas capaces de detectar contenidos machistas directamente en gallego. La iniciativa busca evitar que los contenidos tengan que traducirse previamente a otro idioma antes de ser analizados por los sistemas de inteligencia artificial.
La investigadora destacó que trabajar directamente con el gallego permite conservar determinados matices vinculados a las marcas gramaticales de género. El objetivo es disponer de recursos tecnológicos específicos para una lengua minorizada que permitan detectar y combatir el acoso contra las mujeres en las redes sociales.
A continuación, Paloma Piot, investigadora del CITIC, abordó los sesgos demográficos que pueden aparecer en los sistemas encargados de detectar y clasificar discursos de odio. Su intervención se centró en la influencia que tienen los diferentes perfiles demográficos en la identificación automatizada de estos contenidos y en las técnicas que pueden contribuir a reducir las discriminaciones durante estos procesos.
La jornada terminó con la intervención de Rafael Colina, que analizó la creciente incorporación de la inteligencia artificial al sector asegurador. El experto advirtió de que la personalización de los contratos mediante sistemas inteligentes puede generar diferencias de trato entre clientes que no estén justificadas por criterios objetivos.
También señaló que los algoritmos pueden no solo reproducir discriminaciones ya existentes, sino hacerlas más difíciles de identificar debido a la complejidad de los sistemas empleados. La jornada organizada por la UDC puso así el foco en la necesidad de incorporar criterios de ética, igualdad y responsabilidad social al desarrollo y aplicación de estas tecnologías.
