Pablo Martínez Olmos, dirige el proyecto de investigación 'Hacia una inteligencia artificial humilde y trazable (THAI)'.
Pablo Martínez Olmos, el investigador español que quiere darle a la inteligencia artificial una "cura de humildad"
Su equipo trabaja en crear sistemas de IA que admitan cuando no tienen información suficiente en lugar de generar las conocidas como "alucinaciones".
Más información: Lo que los expertos dicen del 'retorno' de las humanidades: "Hay un interés renovado en la Filosofía. Vivimos en crisis"
Pablo Martínez Olmos (Granada, 1984) quiere darle a la IA una "cura de humildad". Este investigador español, doctor en Ingeniería de Telecomunicaciones y catedrático en el Departamento de Teoría de la Señal y Comunicaciones de la Universidad Carlos III, dirige el proyecto de investigación Hacia una inteligencia artificial humilde y trazable (THAI).
Su objetivo es sencillo: que la inteligencia artificial admita cuando no sabe algo, o no sabe lo suficiente, o duda. Atiende a ENCLAVE para explicarnos este concepto que, más que a desconfianza hacia la máquina, consiste en conocer las limitaciones del humano.
Pregunta: ¿Qué significa una IA "humilde"?
Respuesta: La idea de IA "humilde" nace de una situación que cualquier usuario reconoce. Hacemos una pregunta y recibimos una respuesta elaborada, con mucho detalle y expresada con seguridad. Detectamos un error y el modelo responde algo como "tienes razón" para, acto seguido, ofrecernos otra respuesta igualmente segura, pero bastante distinta.
La humildad consiste en lo contrario. Si existe incertidumbre, el modelo debería darte una respuesta más limitada. Decir "esto es lo que puedo afirmar con seguridad" y devolverte el control para que puedas reformular la pregunta, aportar más información o decidir qué hacer. No buscamos una IA que sepa menos, sino que sea capaz de reconocer sus límites.
P.: ¿En qué consiste su investigación?
R.: Simplificando, hay dos caminos. Uno es seguir aumentando el tamaño de los modelos, alimentarlos con cada vez más información y esperar que hayan visto suficientes ejemplos como para dar respuestas correctas en cualquier situación. Tiene problemas evidentes: sostenibilidad, concentración en muy pocas compañías, falta de acceso a su funcionamiento interno y que siempre existirán problemas o dominios donde los datos disponibles no cuentan toda la historia.
Nosotros seguimos otra dirección. Trabajamos con modelos más pequeños y especializados en dominios concretos, fundamentalmente medicina personalizada y ciencias de la vida, donde tenemos datos muy complejos pero poblaciones relativamente pequeñas.
Una de las ideas que investigamos consiste en restringir cómo puede utilizar el modelo su representación interna, creando una especie de número grande pero finito de "cajones" con los que tiene que explicar los datos. Como no todo cabe, durante el entrenamiento tiene que seleccionar qué información merece la pena conservar. Esa estructura nos permite estudiar cuándo el modelo está seguro y cuándo duda.
Las preguntas científicamente más interesantes están allí donde la IA duda, no donde "brilla".
P.: ¿Es inevitable una IA con "alucinaciones"?
R.: Es muy difícil pensar que podamos eliminarlas con los modelos actuales. Estos sistemas son funciones matemáticas enormes cuyo mecanismo básico consiste en predecir qué fragmento de texto viene después. Tienen capacidad para combinar conceptos y producir lenguaje coherente, pero el mecanismo fundamental no tiene como objetivo que toda la respuesta sea cierta.
Se entrenan con cantidades gigantescas de texto humano que contiene información correcta, incorrecta, contradictoria y desactualizada. Por eso pueden producir respuestas que suenan plausibles aunque sean falsas. Son buenos reproduciendo patrones del lenguaje, pero "sonar correcto" no significa "ser correcto".
Estudiante que usa un chatbot de IA mientras estudia.
P.: ¿Parte del problema no es que creemos "conversar" con la IA cuando es más una interfaz, y harían falta usuarios "desconfiados"?
R.: El sistema debería comunicar mejor sus límites, pero nosotros como usuarios también tenemos que mantener actitud crítica. Un problema es que la forma de interacción es convincente. Recibes una respuesta bien escrita, detallada, amable y segura, y eso puede llevarte a atribuirle una fiabilidad que no tiene.
P.: Cuando hablamos de IA parece que siempre se trata de los modelos gratuitos o de uso popular como ChatGPT y demás, pero hay herramientas más especializadas, ¿estas también necesitan "cura de humildad"?
R.: Nuestro trabajo está relacionado con ese segundo tipo de sistemas. En medicina y ciencias de la vida utilizamos modelos especializados para analizar datos complejos.
En estos ámbitos la incertidumbre es incluso más importante, porque no tenemos las cantidades gigantescas de datos disponibles para entrenar los grandes modelos generativos.
Trabajamos en modelos que buscan biomarcadores en datos moleculares o que intentan caracterizar cambios en el comportamiento de una persona utilizando información recogida por dispositivos móviles. En este tipo de aplicaciones, saber cuándo el modelo está dudando puede ser tan importante como la propia predicción.
P.: Estos modelos de IA, ¿invisibilizan al público general el verdadero alcance y las posibles aplicaciones de la tecnología?
R.: En parte sí, aunque por una razón comprensible: la tecnología está avanzando a un ritmo extraordinario. Incluso a quienes investigamos en este campo nos cuesta seguirlo con detalle. Las aplicaciones son tan diversas que es muy difícil que el público general tenga una visión completa.
Tampoco creo que la IA sea algo invisible para la sociedad. Su impacto ya se percibe en muchos ámbitos. Lo que sí me preocupa es que los beneficios que ya está aportando en medicina, ciencia o ingeniería queden oscurecidos por los usos malintencionados.
Esta tecnología va a seguir estando al servicio del ser humano, para bien o para hacer el mal. El problema no es que un agente sea "malicioso". No tiene una intención en el sentido humano. El problema es que un sistema autónomo intentará cumplir el objetivo que le hemos especificado dentro de las restricciones que le hayamos impuesto. Y todo aquello que no hayamos previsto puede dar lugar a acciones indeseables o peligrosas.
![El abogado Álvaro Écija es fundador de Ecix Tech, la empresa destrás de MiAbogado.](["https:\/\/s3.elespanol.com\/k\/imgp\/cms\/elespanol\/10390714.jpg?p=w:320\/h:240&h=QrYH0H5L"])
P.: ¿La IA nos hace más tontos, o perezosos intelectualmente, o es el tipo de uso?
R.: Mi experiencia como profesor me hace pensar que depende del uso. No prohíbo a los estudiantes utilizar estas herramientas. Lo que ha cambiado es cómo planteamos la enseñanza.
Ahora pongo mucho más énfasis en la base teórica y en la evaluación individual, mediante pruebas orales en las que el estudiante tiene que explicar qué ha hecho, por qué lo ha hecho y cómo funcionan sus experimentos.
Mi mensaje a los alumnos es sencillo: si dejas que la IA haga todo por ti, antes o después tendrás un problema. Pero también observo el efecto contrario. A los mejores estas herramientas les permiten avanzar más rápido y explorar preguntas que antes no habrían tenido tiempo de investigar.
P.: ¿Es necesario educar a la sociedad en el uso de la IA, presente o futura?
R.: Es necesario educar, punto. Y no me refiero únicamente a enseñar cómo funciona una inteligencia artificial o cómo escribir un buen prompt. Educar incluye muchas otras cosas: desarrollar capacidad crítica, aprender a convivir con la incertidumbre, tener empatía suficiente para escuchar ideas con las que no estamos de acuerdo y, sobre todo, no asumir que algo es cierto simplemente porque nos lo diga una persona, una autoridad o una inteligencia artificial.
![Imagen de archivo de la Tierra convertida en datos. iStock](["https:\/\/s3.elespanol.com\/k\/imgp\/cms\/elespanol\/10706951.jpg?p=w:320\/h:240&h=l6cZExrh"])
P.: ¿Están fundados los miedos a una IA "descontrolada" que provoque el apocalipsis?
R.: Son sistemas muy versátiles y cada vez más capaces, y precisamente por eso requieren un control muy estricto. Mi preocupación no sería tanto imaginar una IA con una voluntad propia que decide volverse contra nosotros, sino sistemas muy potentes actuando con demasiada autonomía, con acceso a infraestructuras sensibles o con restricciones insuficientes. Ahí sí existe un riesgo real que tenemos que tomarnos muy en serio.
No creo que la respuesta sea ni minimizar los riesgos ni caer en escenarios apocalípticos. Es control, auditoría, transparencia y mucha cautela a la hora de decidir qué autonomía concedemos a estos sistemas.
Hay preocupaciones más inmediatas que un hipotético apocalipsis. Una es el impacto sobre el mercado de trabajo. Habrá tareas que se automaticen y profesiones que cambien. Mi impresión es que el mercado laboral se adaptará, como ha ocurrido con otras transformaciones. Seguiremos siendo necesarios, aunque cambie el tipo de trabajo que hacemos. Hay capacidades humanas que siguen siendo difíciles de sustituir.
Y respecto a otros miedos, como desigualdad, concentración de poder o uso con fines destructivos, creo que hablan más de nosotros que de la tecnología. Una IA puede amplificar enormemente nuestra capacidad para bien y para mal, pero las decisiones siguen siendo humanas.
