Google tiene que dar marcha atrás en sus resúmenes médicos con IA: daba información errónea a los usuarios

La posición de Google respecto a la IA es clara: es la utilidad por antonomasia de nuestro siglo, y sus resúmenes basados en inteligencia artificial para las búsquedas lo demuestran.

Unos resúmenes que se están desactivando para ciertas consultas médicas, después de que ciertas investigaciones advirtieran sobre los problemas que estos presentaban.

Según recalca The Verge, Google habría desactivado algunos resúmenes basados en inteligencia artificial que habrían otorgado información errónea y peligrosa a usuarios afectados.

Adiós a algunos resúmenes con IA

A principios de año, el portal The Guardian publicó una investigación en la que se revelaba cómo los resúmenes de IA ofrecían información errónea e inexacta, que en algunos casos podría entrañar riesgos.

En esta investigación, se detallaban casos de informaciones que en la menor de las situaciones era incorrecta y en la mayor, presentaban potenciales peligros para ciertos pacientes relacionados con algunas afecciones.

Búsqueda Google con IA Chema Flores Omicrono

Por ejemplo, cuando se realizaban búsquedas sobre enfermedades mentales, se proporcionaban resultados engañosos que además incluían consejos tremendamente problemáticos para afrontarlas.

Por si fuera poco, también incidieron en el hecho de que estos resúmenes nunca permanecían a la hora de realizar nuevas búsquedas. Es decir, que cambiaban con cada una de estas consultas.

[He probado el invento que querrás llevar a reuniones o clases: graba, transcribe y resume con la IA de ChatGPT]

En general, estos resúmenes no solo enlazaban a sitios cuestionables, sino que tergiversaba el contenido de las webs de las que extraía información o prescindía de un contexto muy necesario.

A tenor de esta situación, Google ha desactivado los resúmenes de algunas de las consultas que se mencionaron en esa investigación. Al hacer estas búsquedas, ya no aparecen los resúmenes, al menos en inglés.

Resumen de IA con esta consulta. Manuel Fernández Omicrono

Concretamente y según recalca TechCrunch, se han desactivado las vistas para consultas como ¿cuál es el rango normal para los análisis de sangre del hígado? o ¿cuál es el rango normal para las pruebas de función hepática?.

A fecha de escrito este artículo, en España siguen apareciendo las vistas creadas con IA sobre estas y otras consultas, por lo que aparentemente, solo el idioma inglés habría percibido estos cambios.

[Meta crea una inteligencia artificial que cambiará la comunicación: traduce 101 idiomas al instante de voz a voz]

Si bien es cierto que Google se negó a comentar sobre eliminaciones concretas, un portavoz explicó que estas vistas generales "no presentan contexto".

Además, aclararon que estaban trabajando para implementar "mejoras generales" y "tomar medidas conforme a nuestras políticas", sin incidir más en esta situación.

Consulta realizada en el Modo IA. Manuel Fernández Omicrono

Por si fuera poco, este portavoz aseguró al medio que algunos de los ejemplos de salud que se compartieron con la compañía pertenecían a "fuentes conocidas y confiables" y que las capturas de pantalla estaban "incompletas".

En uno de estos ejemplos, se incidía sobre cómo Google recomendaba a pacientes de cáncer de páncreas que evitaran la consumición de alimentos grasos o ricos en grasas.

[Adiós a aprender idiomas: he probado los auriculares que traducen cualquier conversación al instante]

Esta es una recomendación diametralmente contraria a la que un experto médico realizaría, por ejemplo. Es importante aclarar que a la hora de hacer esta consulta en el llamado Modo IA de Google, se añade una nota que recomienda consultar a un profesional médico.