Estamos en un momento en que existe una gran necesidad de agilidad y eficiencia en el sector servicios y, en este sentido, la IA generativa y la Agentic AI están ganando protagonismo en el sector público europeo. A medida que la inteligencia artificial pasa de la fase de experimentación a la de adopción, cada vez más profesionales se plantean cómo innovar sin renunciar a la responsabilidad, a la transparencia y al control.

En el caso de la Administración Pública, donde el potencial es evidente, la experiencia nos demuestra que la innovación funciona solamente cuando se construye sobre principios claros. Bien aplicada, la IA puede ayudar a tomar decisiones bien informadas, acelerar la prestación de servicios, hacerlos más accesibles y optimizar el uso de los recursos limitados.

Sin embargo, no está exenta de retos porque hay fallos que no pueden asumirse como un simple efecto colateral de la transformación, como, por ejemplo, los sesgos sistemáticos, la discriminación algorítmica, los problemas de privacidad o incluso las interrupciones en servicios esenciales.

Por eso es importante avanzar hacia una IA verdaderamente responsable con reglas claras, coherentes y compartidas, en lugar de ir por proyectos. La base sobre la que deberían construirse las prioridades de cualquier estrategia pública de IA responsable es una serie de principios comunes, métricas claras y transparencia. Es decir, una gobernanza sólida que permita innovar con seguridad y dar garantías a la ciudadanía.

El marco regulatorio de la inteligencia artificial está entrando en una nueva fase, y la Unión Europea ha marcado el ritmo con la Ley de IA, una normativa exigente que introduce obligaciones y sanciones para quienes no la cumplan. Su alcance va mucho más allá de las fronteras comunitarias ya que afecta también a cualquier actor que despliegue sistemas de IA que puedan ser utilizados por ciudadanos de la UE.

Aquí, las administraciones públicas tienen la oportunidad y, en cierta medida, la obligación, de adelantarse. No deben esperar a que la regulación se convierta en una imposición externa, ya que actuar de forma proactiva les permitirá definir políticas internas, identificar riesgos, establecer mecanismos de revisión y supervisar el comportamiento de los sistemas desde el primer momento.

Cuando faltan reglas claras, los proyectos de IA tienden a ralentizarse o a paralizarse. Un marco de gobernanza permite saber qué hacer y qué no, evita problemas y agiliza la toma de decisiones.

Para empezar, es buena idea usar la IA en proyectos que no sean muy arriesgados pero que puedan tener gran impacto, a modo de “prueba piloto”. Por ejemplo, en el sector público, ámbitos como el procesamiento documental o análisis predictivo para la asignación de recursos son perfectos para este propósito. Una vez aplicada la gobernanza a estos proyectos, es más fácil replicarla en otros sin tener que empezar de cero cada vez.

Las administraciones públicas tienen la responsabilidad singular de trabajar para el conjunto de la ciudadanía y eso exige que cualquier uso de la inteligencia artificial esté alineado con ese mandato de servicio público.

Cuando se desarrolla sobre principios como poner a las personas en el centro de la estrategia, proteger la equidad, la transparencia y la responsabilidad, la IA deja de ser una mera herramienta técnica para convertirse en un instrumento al servicio del interés general.

Además, este enfoque ayuda a atraer y retener talento. Los profesionales, especialmente los más cualificados, buscan cada vez más proyectos con propósito, entornos donde la innovación vaya acompañada de criterios éticos claros y una gestión responsable de la tecnología.

Demostrar con hechos que la IA se despliega con supervisión, garantías y rendición de cuentas puede convertirse, por tanto, en un factor diferencial para las administraciones que quieran atraer a los mejores perfiles.

Por otro lado, la confianza de la población es esencial. Cuando la IA toma decisiones que afectan a la vida de las personas, la ciudadanía necesita entender qué pasa, por qué y cómo. Una gobernanza eficaz debe cumplir con que su IA sea transparente (que sea fácil y comprensible su funcionamiento) y responsable.

En este sentido, resulta crítico mantener la supervisión humana (human-in-the-loop) en decisiones de gran impacto, como en sanidad, fiscalidad o seguridad pública, campos sumamente sensibles y regulados donde la responsabilidad ética final nunca puede delegarse en un algoritmo o en un modelo de lenguaje (LLM). Igual de importante es la revisión continua para detectar sesgos, errores o efectos no deseados antes de que se vuelvan sistemáticos.

Dada su sensibilidad, en este sector cualquier error tiende a amplificarse por la atención mediática y la opinión pública. Sin supervisión humana, la IA puede multiplicar el impacto de esos errores. Saber manejar la IA significa proteger la reputación y conseguir que la sociedad apoye el avance de esta tecnología.

Estas prioridades son una hoja de ruta que puede facilitar la puesta en práctica de las diferentes soluciones y herramientas de manera ética. La combinación equilibrada de estructura organizativa, herramientas tecnológicas y cultura interna, así como la supervisión, los procesos operativos, el cumplimiento normativo y la formación, permitirán a las administraciones evolucionar con criterio y mejorar de manera continua.

Si las instituciones establecen correctamente una gobernanza, la innovación se vuelve tangible y efectiva, sin olvidar que lo más importante siempre será la confianza, la responsabilidad y el servicio a la ciudadanía.

***Afshin Almassi es Public Sector & Healthcare director en SAS España, Francia y Portugal.