Una médico usando un asistente IA.

Una médico usando un asistente IA.

Observatorio de la sanidad

La principal IA de ayuda clínica se apaga en la UE por "incertidumbres regulatorias" y los médicos se indignan

OpenEvidence se había convertido en poco tiempo en una herramienta habitual en las consultas al ahorrar enormes cantidades de tiempo.

Más información: Un asistente inteligente para que los médicos vuelvan a mirar a los ojos al paciente

Publicada
Las claves

Las claves

La herramienta de IA clínica OpenEvidence ha dejado de estar disponible en la Unión Europea por la incertidumbre regulatoria sobre sistemas de inteligencia artificial.

Médicos y profesionales sanitarios han mostrado su indignación y preocupación ante la retirada de esta herramienta, que era ampliamente utilizada para apoyo en la toma de decisiones clínicas.

La regulación europea considera los sistemas de IA clínica como productos de alto riesgo, imponiendo estrictos requisitos de supervisión y evaluaciones continuas.

Expertos reconocen la necesidad de regulación, pero critican la falta de vías claras para validar y desplegar herramientas útiles de inteligencia artificial en el ámbito sanitario.

A principios de esta semana, Joaquín Rodríguez, jefe de Aparato Digestivo del Hospital Quirónsalud Ciudad Real, estaba dando una formación en inteligencia artificial para médicos y quería mostrarles una de las joyas de la corona, la más usada por los profesionales de todo el mundo.

Pero esta 'joya' había desaparecido.

Donde debería aparecer un recuadro típico de un buscador de internet, había un escueto mensaje. OpenEvidence, la herramienta que quería enseñar a sus alumnos, ya no estaba disponible en la Unión Europea "debido a la creciente incertidumbre regulatoria respecto al tratamiento de los sistemas de IA" en el continente.

"Se me quedó cara de tonto, y a los alumnos también", cuenta en un vídeo en su canal de Youtube, dedicado al uso de IA en salud. "¿Qué está pasando aquí?"

No fueron los únicos que se quedaron con esa cara. En redes sociales, los médicos comenzaron a estallar de indignación, proponer alternativas o culpar, una vez más, al afán regulatorio europeo.

OpenEvidence es lo que se conoce como un sistema de apoyo a la decisión clínica. El profesional (que previamente ha tenido que identificarse como tal), en lugar de pasar horas buscando información en libros o revistas (físicos u online), le pregunta al sistema.

Funciona como cualquier otra interfaz de IA, al estilo ChatGPT o Gemini: un recuadro donde pones tu duda, te responde y vas conversando hasta obtener la información que necesitas.

Pero tiene dos características muy importantes para los profesionales sanitarios. La primera, solo busca en fuentes de alta calidad como las revistas médicas de mayor prestigio. La segunda, evita las llamadas 'alucinaciones': no hay temor a que se invente las respuestas.

Hay una tercera característica importante: es gratis.

"De momento, no hay herramientas de este tipo pagadas por los hospitales", comenta Juan Torres Macho, jefe del Servicio de Medicina Interna del Hospital Infanta Leonor, en Madrid, a EL ESPAÑOL-Invertia.

"Como mucho, han levantado el cortafuegos para poder utilizar estas herramientas: antes accedías a ChatGPT y se cerraba el sistema".

12.000 millones de dólares

Este ChatGPT de los médicos se creó a finales de 2021 por Daniel Nadler y Zachary Ziegler, vinculados a la Universidad de Harvard, pero su uso se ha generalizado, sobre todo, en el último año, cuando la compañía ha superado los 12.000 millones de dólares de valoración.

"Yo lo usaba para tres cosas", señala Torres Macho. "Para responder algunas preguntas difíciles de los alumnos, para búsquedas bibliográficas (tardas mucho menos que en un buscador al uso) y, de forma esporádica, para la resolución de algún caso real".

Eso sí, nunca metiendo datos de vida real de pacientes, que está prohibido.

¿Cuál es el problema, entonces? Open Evidence cita dos cartas abiertas en las que agentes del mundo empresarial advierten de las consecuencias del proyecto de ley de la inteligencia artificial en la Unión Europea.

Altos directivos de empresas como Carrefour, Siemens, Dassault, Capgemini o Thyssenkrupp las firman.

Acusan a la Unión Europea de tomar "decisiones regulatorias inconsistentes", que la hacen quedarse atrás en dos desarrollos cruciales: los modelos abiertos (que pueden modificarse una y otra vez) y los multimodales (que usan fluidamente texto, imágenes y otros recursos).

También lamentan que el Reglamento Europeo de Protección de Datos ha creado "una gran incertidumbre sobre qué tipos de datos pueden usarse para entrenar los modelos de IA".

Esto quiere decir que "la subsiguiente generación de modelos de IA de código abierto, así como productos y servicios desarrollados a partir de ellos, no entenderán o reflejarán el conocimiento europeo, su cultura y lenguaje".

Por eso piden una "interpretación moderna" del Reglamento de Protección de Datos.

En la segunda carta, dirigida a los representantes de la Comisión, el Parlamento y el Consejo de la Unión Europea, transmiten sus "serias preocupaciones" sobre la Ley de Inteligencia Artificial.

"Bajo la versión adoptada por el Parlamento Europeo, los modelos fundacionales, sin importar sus casos de uso, estarían regulados muy duramente, y las compañías que desarrollan e implementan esos sistemas se enfrentarían a unos costes de cumplimiento desproporcionados".

El marco regulatorio para la IA encaja estos sistemas en la categoría de 'alto riesgo' de daño a la salud pública y los derechos fundamentales, y les impone una regulación estricta: evaluaciones de riesgo continuas, minimización de resultados discriminatorios, trazabilidad de las decisiones y supervisión humana, entre otros.

"Uno de los problemas es cómo se está encajando la IA dentro de marcos pensados para otra realidad tecnológica", explica Ignacio Hernández Medrano, neurólogo y fundador de Savana, una compañía especializada en IA con fines médicos.

"En Europa, gran parte del software clínico avanzado y muchas soluciones de IA se están evaluando bajo el Reglamento de Productos Sanitarios", diseñado para garantizar la seguridad y eficacia de dispositivos médicos clásicos.

La generación de lo analógico

"El problema es que un sistema de IA no se comporta como un dispositivo médico tradicional. Es una capa de información y decisión basada en datos, modelos probabilísticos y mejoras continuas. No es comparable a un objeto físico cerrado".

Por eso, intentar evaluarlo con criterios hardware hace que "a veces el encaje resulta forzado", con evaluaciones poco ajustadas que dejan fuera cuestiones fundamentales.

"Europa acierta al exigir garantías, pero probablemente necesita evolucionar desde una lógica de 'certificar un producto estático' hacia una lógica de 'supervisar un sistema vivo'. Es decir, más monitorización continua, validación con datos reales, auditorías periódicas y marcos adaptados al ciclo de mejora de la IA".

Medrano incide en que "Europa tiene razón en regular la IA sanitaria, porque hablamos de decisiones clínicas, datos sensibles y seguridad del paciente", pero critica la "falta de vías claras para validar y desplegar herramientas útiles".

Alternativas existentes

Tras la marcha de OpenEvidence, algunos usuarios han optado por otras alternativas existentes, aunque la sensación general es que no suplen el hueco dejado.

Esto no le preocupa a Torres Macho. "Mi generación ha aprendido en lo analógico; la IA, si has tenido experiencia clínica, es fantástica, ya que te ahorra mucho tiempo. El problema es no haber adquirido esas capacidades antes y confiar en ella y no en tu criterio".

Con todo, entiende es un camino que no tiene vuelta atrás. "Yo siempre pongo el ejemplo de los navegadores en los coches: ahora, no podríamos enseñar Medicina con una 'Guía Campsa'. El proceso de razonamiento es fundamental ahora, pero a lo mejor dentro de 30 años ha cambiado por completo".