No duró ni dos días. El chatbot de la Agencia Española del Medicamento (AEMPS), anunciado a los cuatro vientos por la ministra de Sanidad Mónica García terminó siendo un fiasco. A las pocas horas de su lanzamiento, tuvieron que cerrarlo “temporalmente”, ante las evidencias de su mal funcionamiento reportadas por los usuarios.
Al cierre no le dieron tanto bombo. La AEPMS dijo en LinkedIn que existían “algunos errores” que debían solucionar, y la web del chatbot (llamado MeQA) mostraba mensaje similar, advirtiendo del cierre, que ahora ni aparece. Para más inri, la ministra borró sus anuncios de lanzamiento en redes sociales, como si aquello nunca hubiera sucedido.
El caso es uno de muchos. Ilustra a la perfección el afán de colgarse medallas de gobiernos y Administraciones Públicas (AAPP), de cualquier color y tamaño. Una “herramienta de IA pionera”, decía la nota de prensa de MeQA. Una frase que se repite como mantra en notas de prensa, discursos y tuits ministeriales. Un ejemplo más del afán recurrente de los dirigentes políticos por querer ser “los primeros” en algo, aunque sea en gastar dinero público en balde.
Lo sabe bien el ingeniero informático Jaime Gómez-Obregón, que lleva un lustro exponiendo las lacras y corruptelas de las contrataciones públicas, y las carencias e ineficiencias en la digitalización de las AAPP. Todo a base de analizar bases de datos, licitaciones, adjudicaciones y un sinfín de documentos, y, si hace falta, de hackear algún que otro portal. Una labor que le ha valido varios premios.
Humo político
En sus 25 años en la profesión tecnológica, Gómez-Obregón ha visto de todo: portales abandonados, proyectos sin vida más allá de su anuncio, herramientas de IA cuya “transformación” solo ha servido para inflar titulares… Nada cambia. Solo el decorado tecnológico: hoy es la inteligencia artificial (IA), ayer metaverso, y entre medias otros que se repiten como el apellido ‘inteligente’ o ‘smart’ (turismo inteligente, smart city…).
El informático apunta al problema de fondo: la tecnología se ha convertido en un fetiche publicitario por las administraciones públicas, un elemento de márquetin. “No quiero que la administración me hable de IA, sino de que ha solucionado algo, que ha reducido burocracia, que ha facilitado un trámite…”, reclama, y pide que se dejen de sacar titulares con más acento en la tecnología que en el problema que resuelve.
Pero eso apenas ocurre. Lo habitual es que el discurso institucional y muchos proyectos de los que se impulsan “olviden que el fin es facilitarle la vida a la gente”. “Más bien -prosigue- parece que en realidad sea facilitarle la gloria al dirigente político de turno”, añade el investigador. Puro efectismo producto del FOMO de los políticos, ese “miedo a perderse algo”, en este caso, la ola de la IA.
Un ejemplo ilustrativo es el de la Diputación de Castellón. Proclamaron ser “pioneros en aplicar inteligencia artificial para transformar el turismo”, pero en el pliego del concurso -denuncia Gómez-Obregón- no aparecía ni una sola mención a la IA. Cree que, detrás de estas maniobras, hay una ansiedad institucional, una competencia tóxica entre administraciones para ver quién lanza antes el proyecto más aparentemente disruptivo, aunque se base en tecnologías no maduras y no tenga utilidad alguna.
Así se explican los centenares de plataformas digitales que nacieron durante o a raíz de la pandemia: mercados municipales online y portales de compras que murieron silenciosamente meses después, como Logroño Compra. El informático ha contabilizado más de 110, de los cuales han cerrado unos 90. “Y lo peor es que, a pesar de ello, se siguen abriendo nuevos portales de este tipo. Solo en Murcia hay al menos siete. No se aprende”, denuncia.
Derroche invisible
Gómez-Obregón compara lo que sucede ahora con los años de escándalos de obra civil y obra pública: aeropuertos sin aviones, rotondas que no llevaban a ningún sitio… Sin embargo, es más fácil perpetuar este digital porque no deja huella. “Un aeropuerto sin aviones deja un cadáver muy feo, pero un proyecto de 300.000 euros de digitalización que no funciona no deja rastro. No lo vemos”, señala.
El informático recurre a otra analogía de aquellos años: la inauguración de nuevas carreteras. Se construían, se cortaba la cinta, y al día siguiente ya nadie pensaba en ellas. Pero ese modelo no sirve en el mundo digital, donde cada proyecto requiere un proceso continuo de aprendizaje, mantenimiento y mejoras para que realmente sea útil. Sin embargo, aún hoy predomina la lógica de desarrollar una solución, lanzarla con prisas y, al día siguiente, olvidarse por completo, como si ya estuviera todo hecho.
Así, la tecnología se convierte “en una palabra hueca”, instrumentalizada para campañas de imagen que no rinden cuentas. “Quienes trabajan en la administración me dan la razón, reconocen los problemas y me dicen que a ver si a mí me hacen caso, pero luego no pasa nada. Los que tienen el poder de cambiar las cosas son ellos, y nadie hace nada”, afirma.
Frente al humo generalizado, el investigador cree que es importante reconocer las buenas prácticas para evitar la desafección de la población. El cántabro destaca una iniciativa en su propia región. "El Gobierno de Cantabria va rezagado en muchos aspectos, pero son vanguardia al menos en una: los sistemas de información geográfica”. Un desarrollo con IA “muy bien hecho” y sin autobombo.
Lo lidera un técnico público, Gabriel Ortiz, y ha sido reconocido internacionalmente. “Están aplicando la IA y otras técnicas punteras a la generación de modelos tridimensionales del territorio, y no se está enterando nadie porque no se dedican a sacar notas de prensa”. La diferencia es clara: tecnología al servicio del bien común, no del ego institucional.
Tecnosolucionismo público
Gómez-Obregón defiende una “digitalización humana”, en la que la tecnología no sea el destino, sino un instrumento habilitador, al servicio de la gente. Un modelo que vaya más allá del ‘tecnosolucionismo’, que ponga al ciudadano en el centro, y no solo de boquilla. En el centro, además, desde el momento de plantear automatizar o usar IA en cualquier sistema público, es lo que defiende la organización ParticipationAI.
“La IA se está introduciendo en la Administración de forma acrítica, como algo que es inherentemente beneficioso e inevitable”, alerta Judith Membrives, cofundadora de ParticipationAI y miembro de IA Ciudadana, Algorights y Lafede.cat. “No se cuestiona, ni se consulta a la sociedad civil, que debe ser parte del proceso desde el momento mismo de la licitación”, apunta.
Este momento es clave, según ParticipationAI. Tras investigar cómo se toman las decisiones sobre IA en la administración pública, la organización ha detectado un patrón preocupante: alguien dice que hay que introducir la IA en los servicios públicos y tiran para adelante sin plantearse su utilidad, implicaciones y riesgos.
“Suele ser una mezcla de mandato político y de excesiva confianza en la empresa privada”, comenta Membrives. Desde la administración -apunta- se tienen identificadas necesidades concretas pero no el conocimiento técnico, y se dejan convencer por empresas que dicen poder resolverlo con una IA, a la que, en su afán comercial, atribuyen más capacidades de las que tiene”.
El resultado es que se gasta dinero público en soluciones que luego no funcionan, que no cumplen lo prometido, que no han sido cuestionadas porque no se cuenta con la sociedad civil como experta y que, es más, tampoco han sido correctamente valoradas en base a parámetros de priorización y eficiencia del gasto público. Y lo que es peor: las consideraciones éticas, legales o sociales rara vez forman parte del diseño inicial.
Son algunas de las conclusiones que arroja el informe de ParticipationAI ‘Meaningful stakeholder engagement in public procurement for artificial intelligence’, realizado por el profesor investigador de la Universitat Oberta de Catalunya Ismael Peña-López.
Participación ausente
Según el informe, la participación de las comunidades afectadas y las organizaciones de la sociedad civil en la adquisición, diseño o supervisión de los sistemas de IA en la administración pública es “extremadamente limitada y muy excepcional.”.
Las contrataciones de IA siguen tratándose como procedimientos técnicos, no como decisiones de gobernanza que impactan en derechos y bienestar. Esto lleva a una paradoja peligrosa: los sistemas se diseñan sin propósito claro, sin considerar los derechos fundamentales, y sin estructuras de seguimiento ni auditoría.
“La adquisición de sistemas de IA en las administraciones públicas se basa en gran medida en modelos tradicionales de contratación pública, que a menudo no se adaptan a las características específicas de las tecnologías algorítmicas”, destaca el informe. Contratos genéricos o inadecuadamente cerrados que impiden tanto la innovación como la supervisión.
Mientras tanto, se compra a proveedores que ofrecen soluciones empaquetadas, limitando la personalización, la transparencia y el control público. El desconocimiento juega malas pasadas en estos procesos. “Hay una gran diferencia entre las administraciones gubernamentales o regionales y las municipales, tanto de conocimientos como de capacidad técnica e infraestructura de datos”, afirma Membrives.
“Hemos visto muchos fiascos que demuestran que no se puede decidir implementar IA o sistemas algorítmicos sin una reflexión profunda, sin contrastar con las comunidades afectadas (y expertas) que realmente sea su necesidad o la solución a sus problemas, y sin valorar su potencial impacto”, afirma la investigadora.
Considera que esto es especialmente relevante “dado que estamos ante una tecnología que interactúa con la sociedad de forma distinta a otros tipos de software o hardware de compra pública”. “Es una cuestión democrática: si es una revolución tecnológica que va a afectar a toda la sociedad, esta debería poder decidir en base a qué y con qué criterios se implementa”.
Segundos y mejores
La propuesta de ParticipationAI pasa por crear esos espacios de participación ciudadana, con una remuneración asociada y con una capacitación previa para que su participación sea informada y sustancial.
El problema es el tecnosolucionismo, no es la IA en sí, que está por ver dónde puede aportar mejoras. “Hay que ser tolerantes (y, en cierto modo, condescendientes)” -dice Gómez-Obregón- porque todo esto aún es muy nuevo”. Por eso defiende que las administraciones públicas no deberían arriesgar dinero público solo por lograr un titular llamativo: “Es mejor llegar el segundo, porque ya tienes experiencia. El primer tren puede descarrilar, pero el segundo ya pisa sobre seguro”.
La IA en el sector público no está fracasando por falta de potencial, sino por exceso de oportunismo político, por falta de conocimiento y capacidades, y por una ausencia de gobernanza. Se necesita una transformación radical del modo en que se toman las decisiones: crear espacios de participación, repensar la definición del propósito e integrar la reflexión ética desde el principio.
Como señala el informe de ParticipationAI: “sin un propósito claramente definido y éticamente robusto, el uso de IA en la administración pública corre el riesgo de volverse opaco, discriminatorio o desalineado con los principios fundacionales del servicio público”. No se trata de ser los primeros, ni de subirse a la ola de la IA, sino de ser los mejores en usar la tecnología con sentido. Si no, pasa lo que hasta ahora, y el FOMO de los políticos lo pagamos todos.