Imagen de las participantes.
Investigadoras de la UDC participan en un estudio sobre el uso de la IA para verificar información
El proyecto desarrolla una extensión para navegadores que permite contrastar datos y detectar sesgos de género
Te puede interesar: La UDC renueva y designa las direcciones de sus tres centros de investigación en A Coruña
Dos investigadoras de la Universidade da Coruña han participado en un proyecto que analiza el potencial de la inteligencia artificial generativa para la verificación de información.
El trabajo, liderado por la Universidade de Vigo en el marco de la Cátedra de Feminismos 4.0 Depo-UVigo, contó con la colaboración de Laura Castro y Teresa Piñeiro, integrantes del grupo de investigación Cidadanía Dixital (DIGI) de la UDC.
El estudio, titulado Evaluación de la IA generativa en la verificación de hechos sobre personalidades de Pontevedra con perspectiva de género, fue desarrollado por el equipo del grupo Sepcom de la Universidade de Vigo junto con las investigadoras de la UDC y con la participación de Graciela Padilla, de la Universidad Complutense de Madrid.
La coordinación corrió a cargo del profesor Xabier Martínez Rolán.
Según explicó el coordinador del proyecto, el trabajo permitió comprobar que "existe un potencial en la IA para utilizarla como herramienta en la lucha contra la desinformación", aunque también detectaron “sesgos de género sutiles pero persistentes” en las respuestas generadas por estos sistemas.
ChatGPT, la herramienta más fiable
La investigación analizó el comportamiento de cuatro plataformas de inteligencia artificial: ChatGPT, DeepSeek, Grok y Mistral, comparando la información que ofrecían sobre 20 personalidades de distintos ámbitos como política, ciencia, deporte o cultura.
Entre ellas figuraban, por ejemplo, la atleta Ana Peleteiro, el futbolista Iago Aspas, la portavoz del BNG Ana Pontón, el secretario xeral del PSdeG Xosé Ramón Besteiro o la escritora Ledicia Costas.
El equipo investigador utilizó un mismo prompt o consulta para todas las herramientas y analizó el volumen y la calidad de la información, las fuentes citadas y los posibles sesgos presentes en las respuestas.
Los resultados sitúan a ChatGPT como "la herramienta más fiable y coherente” para este tipo de tareas, destacando además que es la única que “cumple de forma consistente con la citación de fuentes verificables".
Por el contrario, DeepSeek registró "una alta tasa de alucinaciones", con afirmaciones incorrectas en el 55% de las respuestas analizadas, lo que para los investigadores la convierte en "una herramienta sin valor para la verificación". Grok y Mistral obtuvieron resultados aceptables, aunque con menor presencia de fuentes.
Sesgos de género en las respuestas
Otro de los aspectos analizados fue la presencia de sesgos de género en la información generada por las plataformas. El estudio detectó este tipo de desigualdades en el 15% de las respuestas, especialmente en perfiles de mujeres deportistas.
Según explican los investigadores, en algunos casos se incluían referencias a aspectos personales como la apariencia o la vestimenta, algo que refleja cómo se construye la información pública y cómo estos sistemas "reproducen desigualdades presentes en los datos con los que fueron entrenados".
Una extensión para verificar información
Como parte del proyecto, el equipo desarrolló una extensión para los navegadores Chrome y Firefox, disponible como software libre en GitHub, que permite contrastar información utilizando varias herramientas de inteligencia artificial al mismo tiempo.
Esta aplicación permite enviar un texto seleccionado a diferentes modelos de IA para comprobar la información e incorporar criterios de verificación con perspectiva de género.
Además, el proyecto incluye un decálogo de buenas prácticas para el uso responsable de estas tecnologías, que recomienda, entre otras cuestiones, contrastar resultados en distintas plataformas, revisar las fuentes y tener en cuenta las limitaciones técnicas de cada sistema.
