La directora de Fundación ELLIS en Alicante, Nuria Oliver. EFE
Entramos en la Fundación ELLIS, el centro alicantino que investiga los usos éticos de la inteligencia artificial
Su directora pide "más apoyo estatal" para ascender a la categoría de instituto dentro de esta red europea de investigadores predoctorales en IA.
Más información: Nuria Oliver: "Aún existe una cultura sexista y misógina en la tecnología que infravalora a la mujer"
Fue el gran estandarte de la candidatura de Alicante a albergar la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que finalmente recayó en A Coruña. Uno de los emblemas de la apuesta por la innovación del anterior ejecutivo valenciano, mentado por doquier en la prensa local y en numerosos foros europeos. Hablamos de la Fundación ELLIS Alicante.
Su sede se encuentra en unas naves cedidas por la Generalitat Valenciana a orillas del mar. Es la única de las tres unidades de esta red europea en nuestro país que cuenta con edificio propio, o tan siquiera con personal dedicado por entero a esta misión: las otras dos -Madrid y Barcelona- están compuestas de investigadores de varias universidades que trabajan conjuntamente desde sus posiciones habituales. De hecho, lo que se encuentra en Alicante es más parecido a los Institutos ELLIS que sí se han levantado en otros puntos de Europa que a la categoría que realmente ostenta.
Los motivos no se encuentran únicamente en una suerte de posicionamiento de cara a la galería o la ambición evidente de ascender a la primera división de este programa en un futuro cercano. Hay otros argumentos prácticos que explican esta particular caracterización: es la única unidad creada desde cero, sin estructura heredada, como una fundación privada de investigación a modo de soporte legal, y con una misión temática centrada exclusivamente en inteligencia artificial ética, responsable y orientada al bien social.
Pero vayamos al germen de ELLIS y su derivada alicantina, explicado por su directora Nuria Oliver, exejecutiva de Telefónica y Vodafone. Cuenta ella que el proyecto europeo nace como una reacción de la comunidad científica del Viejo Continente ante el desequilibrio global en la investigación sobre inteligencia artificial.
En 2018, un grupo de investigadores —entre ellos la propia Oliver— firmó un manifiesto proponiendo la creación de una red de centros de excelencia que superasen las barreras que expulsaban a los investigadores de IA fuera de Europa: falta de financiación estable, burocracia excesiva, salarios poco competitivos y escasas oportunidades de desarrollo profesional.
“Nunca pensamos que esa carta de alguna manera iba a tener tanta repercusión, pero salió en todos los medios del mundo. Entonces de repente pensamos: uy, pues habrá que hacerlo. Porque en realidad era solo una idea, un proyecto”, detalla la directiva ante el grupo de periodistas que copamos su oficina.
En el caso de la ciudad levantina, este movimiento coincidió con que la Generalitat Valenciana estaba en plena elaboración de su Estrategia de Inteligencia Artificial y, ante la oportunidad de formar parte de esta red, se comprometió con financiación pública y la propuesta fue seleccionada a finales de 2019.
Habría que esperar hasta 2021 para que ELLIS Alicante fuera una realidad, con un modelo mixto de financiación que combina subvenciones públicas al 50% con donaciones privadas y convenios empresariales (Fundación Banco Sabadell, Intel...).
"En inteligencia artificial no se puede ser competitivo solo con financiación pública, pero tampoco es sostenible depender del sector privado"
“Estamos intentando implementar algo que creo que es una de las debilidades que tenemos en España: un modelo de financiación público-privado. En inteligencia artificial no es viable ser competitivo solo con financiación pública, pero tampoco es sostenible depender al 100% del sector privado. El equilibrio es fundamental”, indica Oliver.
A este respecto, no se muestra preocupada ni por la investigación de la fiscalía sobre su naturaleza jurídica (“Durante dos años estuvimos con ese tema, porque la ley dice que una fundación es pública si la financiación pública representa más del 50% y tiene carácter de permanencia. Finalmente se aclaró que nuestra financiación no tiene ese carácter”) ni por la drástica reducción de la dotación pública regional que recibe su entidad, que ha pasado de 1,5 millones anuales en su origen a 500.000 euros con el cambio de siglas políticas a apenas 380.000 euros este curso. (“Era esperable, pero evidentemente no es deseable y esperamos volver a la financiación original cuando se supere la situación de la DANA”).
Tres áreas de trabajo
Entrando ya en materia, el centro organiza su actividad en torno a tres grandes áreas de investigación. La primera, denominada “inteligencia artificial para entendernos”, analiza y desarrolla algoritmos capaces de modelar el comportamiento humano, tanto a nivel individual como colectivo, con fines sociales.
La segunda área se centra en la interacción humano-máquina. Uno de los desarrollos más avanzados en esta línea es un prototipo de chatbot socrático, diseñado como herramienta educativa. A diferencia de los asistentes convencionales, este sistema no da respuestas directas, sino que formula preguntas progresivas que guían al usuario hacia una mejor comprensión, siguiendo el método socrático. El objetivo es fomentar el pensamiento crítico, evitar la dependencia tecnológica y reducir los sesgos generados por la asimetría de conocimiento entre humano y máquina.
La tercera gran línea de trabajo se ocupa de la justicia algorítmica, la explicabilidad y la privacidad. Entre los proyectos más destacados se encuentra el análisis del sesgo en modelos de decisión automatizada, como los utilizados en procesos de contratación, concesión de créditos o admisión universitaria.
En particular, desde Alicante han aplicado técnicas matemáticas de auditoría algorítmica para verificar y corregir esos sesgos, y se trabaja en la adaptación de estas soluciones al marco regulatorio europeo, en especial al Reglamento de Inteligencia Artificial (AI Act), en aspectos como la trazabilidad, la supervisión humana o la transparencia.
Además de eso, se investigan los mecanismos de moderación de contenido automatizada en redes sociales, incluyendo los llamados “prompts” —las órdenes o preguntas que un usuario introduce en modelos generativos—, y se estudian fenómenos concretos como el impacto psicológico de los filtros de belleza y los algoritmos de refuerzo negativo en adolescentes.
Todos estos trabajos corresponden a investigadores predoctorales que pertenecen al programa de doctorado internacional de ELLIS, con un sistema de selección y movilidad obligatoria entre países. Cada estudiante tiene dos directores de tesis de países distintos y debe realizar al menos seis meses de estancia en la institución secundaria.
“Hemos recibido 3.200 solicitudes de 100 países. Todos nuestros doctorandos forman parte de ese programa y tienen estancias en centros como Max Planck, EPFL o la Universidad de Brown”, señaló Oliver. “Es súper atractivo porque trabajan con los mejores investigadores y tienen este componente de internacionalización. Y todo está financiado por Europa”.
Más implicación estatal
¿Qué cabe esperar de esta fundación de cara al futuro? Nuria Oliver no oculta su ambición se subir de categoría y alcanzar esa primera liga dentro de la iniciativa europea a la que pertenece el centro levantino.
“Lo que nos gustaría es que pudiésemos evolucionar y convertirnos en uno de los institutos ELLIS, que además podría ser el único instituto dedicado a la temática de la inteligencia artificial ética, responsable, para el bien social. Para eso probablemente necesitamos una implicación mayor a nivel estatal. Pero de momento estamos demostrando que desde Alicante también se puede liderar la inteligencia artificial en Europa”.
