La UE obligará a que hospitales y centros de salud cuenten con un responsable que controle los sistemas de IA de alto riesgo

¿Cuál será su función? Pues "deberá entender cuál es su nivel de autoridad, si la herramienta cumple con todas las regulaciones y supervisar que su implementación sea segura y ética", ha precisado Margarita Martín López, jefa de Área de Control de Mercado de Productos Sanitarios DIV de la Agencia Española de Medicamentos y Productos Sanitarios (Aemps) este miércoles en unas jornadas sobre IA organizadas por Fenin. 

Así, ha señalado que Europa está trabajando en el desarrollo de una serie de guías para saber cuáles son las obligaciones de este responsable. "Su figura tendrá un gran peso en el desarrollo de estos productos sanitarios".

Desafíos

A lo largo de su intervención, López ha explicado que el desarrollo de estos sistemas todavía afronta unos riesgos específicos.

Entre ellos, se encuentran los sesgos en los datos de entrenamiento (por ejemplo, si esa herramienta se fabrica en Alemania y se prueba con esa población y luego si se implementa en España se pueden encontrar grandes diferencias) y los problemas de los ciberataques.

Expertos en IA denuncian que la implementación de esta herramienta aún no llega a la práctica clínica

Por otro lado, hay otros desafíos como en la transparencia de datos de entrenamiento (que los tiene que facilitar el fabricante del producto), en la falta de explicabilidad y de capacitación de los especialistas.

Y por último, en las propias alucinaciones y desaprendizaje del sistema, "que ya se han observado en la práctica", ha asegurado López.

Marco normativo

Cabe recordar que la norma fue aprobada en diciembre de 2023, entró en vigor en agosto de 2024, pero se ha empezado a aplicar de forma escalonada. Para los sistemas de alto riesgo (como muchos de los usados en sanidad) se fijó la fecha de agosto de 2026.

No obstante, el pasado miércoles 19 de noviembre, hubo un cambio de 180 grados.

El Gobierno reconoce la falta de recursos para ciberseguridad en la sanidad pública y la escasez de opciones para financiarla

En un "ómnibus digital", que aún deberá ser debatido y votado en los países europeos, la Comisión de Ursula von der Leyen propuso retrasar a diciembre de 2027, en ​lugar de agosto de 2026, las normas más estrictas de la UE sobre ‌el uso de la IA en una serie de ámbitos considerados de alto riesgo.

Por ello, "parece que la aplicación de ese marco normativo se va a retrasar", ha matizado López. 

Cabe matizar que los sistemas de alto riesgo son aquellos destinados a la selección automatizada de personal, infraestructuras críticas, evaluación de créditos o seguros o reconocimiento facial en espacios públicos.