Fernando Suárez, presidente del Consejo General de Colegios de Ingeniería en Informática (CCII).
La inteligencia artificial ocupa cada vez más espacio en los titulares y en los discursos de quienes toman decisiones. Dos ejemplos son las recientes intervenciones de Ursula von der Leyen y Emmanuel Macron. La presidenta de la Comisión Europea la ha situado, junto al cambio climático, entre los dos grandes retos que marcarán el futuro de Europa. En su encuentro con el papa León XIV, el presidente francés ha reclamado que la inteligencia artificial sea "un sirviente y no un amo". La cuestión ha llegado al centro de la agenda política. Ahora debemos concretar quién tiene la capacidad y la obligación de ejercer ese control.
Creo que debemos partir de una idea sencilla: aprovechar las oportunidades de la IA exige abordar sus riesgos. Esa ambición europea necesita profesionales capaces de evaluar modelos, verificar su comportamiento y convertir las salvaguardias en decisiones técnicas. La autonomía tecnológica también se construye con conocimiento y responsabilidad.
Los incidentes ya exigen respuestas. El 24 de septiembre, el primer ministro australiano informó de que un agente de OpenAI había accedido sin autorización a archivos públicos y no públicos de un portal de estadísticas de Medicare.
En España, la AEPD comunicó el 14 de septiembre que había recibido su primera notificación de una brecha de datos personales presuntamente causada por un ataque ejecutado mediante un agente de IA. Según la organización afectada, el agente habría encadenado distintas fases del ataque hasta modificar datos personales y acceder a facturas. Las consecuencias descritas bastan para exigir atención: información expuesta y registros cuya integridad queda comprometida.
En este contexto, hay dos tareas que debemos abordar a la vez: proteger nuestros sistemas frente a acciones realizadas con IA y garantizar la seguridad de la IA que incorporamos a nuestros servicios. Un ayuntamiento puede sufrir un ataque sin utilizar ningún algoritmo de decisión. También puede implantar un asistente que informe mal sobre una ayuda, exponga información o actúe con permisos excesivos. En ambos casos necesitamos controles verificables y personas capaces de diseñarlos, comprobarlos y mantenerlos.
Sin embargo, el debate público parece avanzar a otra velocidad y por otro camino. Se multiplican los congresos, las mesas redondas y las credenciales de supuesto experto. Hablar con soltura sobre el impacto de la IA se confunde con saber evaluar un sistema. Manejar una herramienta conversacional o comentar sus consecuencias económicas no acredita conocimientos sobre sus datos, su arquitectura, sus pruebas o sus vulnerabilidades.
Las perspectivas jurídica, económica, educativa y ética son imprescindibles. Precisamente por eso, la multidisciplinariedad exige incorporar también a quienes conocen la tecnología sobre la que se debate. Un jurista puede identificar una obligación; comprobar que un sistema la satisface puede requerir pruebas de ingeniería. Declarar que habrá supervisión humana obliga a determinar qué información recibirá quien supervise, cuándo podrá intervenir y cómo detendrá una actuación indebida. Cada principio necesita una implementación que podamos examinar.
Pedir que una sola figura domine todas las dimensiones jurídicas, organizativas y técnicas de la IA puede acabar dejando sin atender lo esencial. Ya se sabe: quien mucho abarca, poco aprieta. La supervisión necesita un reparto claro de funciones y personas con la preparación necesaria para asumirlas. Alguien debe poder comprobar si un sistema hace lo que promete, reconocer sus límites y determinar cuándo no está en condiciones de utilizarse.
España tiene una oportunidad concreta en el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. Junto al delegado de IA previsto para el sector público estatal, desde el Consejo General de Ingeniería Informática hemos propuesto incorporar un responsable técnico para los sistemas de mayor impacto en los que nuestros derechos se puedan ver afectados.
Su utilidad debe resultar comprensible para cualquier ciudadano: que haya un profesional cualificado que compruebe su funcionamiento antes de ponerlos en servicio, supervise su evolución y pueda proponer su suspensión si detecta riesgos. La Ingeniería Informática tiene mucho que aportar a esa garantía.
Porque lo que está en juego es, además de la seguridad, la confianza. Una parábola cuenta que el fuego, el agua y la confianza entraron juntos en un bosque. Por si se separaban, el fuego explicó que podrían encontrarlo siguiendo el humo; el agua, buscando la humedad. La confianza respondió: "Si yo me llegara a perder, no me busquéis". Su advertencia era que, una vez perdida, no volverían a encontrarla.
En la vida real, recuperar la confianza puede ser posible, pero cuesta mucho más que conservarla. Cada dato expuesto y cada decisión automatizada que nadie sabe explicar erosionan la disposición de las personas a utilizar una tecnología que podría ayudarlas. La IA necesita profesionales capaces de merecer esa confianza y organizaciones dispuestas a darles los medios para hacerlo. De ello depende que sus promesas se conviertan en mejoras para la ciudadanía.
***Fernando Suárez Lorenzo, presidente del Consejo General de Ingeniería Informática (CCII)