Durante años, la conversación sobre inteligencia artificial ha estado dominada por una pregunta: hasta dónde será capaz de llegar. Ahora empieza a imponerse otra, probablemente más importante: qué condiciones necesitamos para poder utilizarla con confianza.
Hace apenas unos días, Dario Amodei, cofundador y consejero delegado de Anthropic, pedía públicamente moderar el ritmo al que avanzan las capacidades de los modelos de IA y reforzar su evaluación externa. Poco después fue aún más contundente al afirmar que durante demasiado tiempo parte de la industria había minimizado sus riesgos.
Más allá de compartir o no los diagnósticos más extremos, hay algo significativo en este debate: la llamada a reforzar las garantías ya no procede únicamente de reguladores o académicos. Surge también desde quienes desarrollan la propia tecnología.
Eso debería ayudarnos a superar una dicotomía cada vez menos útil: innovación frente a regulación, velocidad frente a seguridad, competitividad frente a confianza.
Lo estamos viendo ya en las empresas. La IA comienza a dejar atrás su primera etapa como asistente o copiloto para avanzar hacia sistemas capaces de interpretar objetivos, planificar acciones y ejecutarlas dentro de los procesos de una organización.
Es el salto hacia los agentes de inteligencia artificial.
Su potencial es enorme. En algunos de los casos que hemos analizado en nuestros estudios, procesos que tradicionalmente requerían entre tres y cinco días pueden reducirse a unas pocas horas, con reducciones de costes por transacción de hasta el 70% en entornos de gran volumen.
Pero precisamente esa capacidad de actuar introduce una diferencia fundamental. Cuando la IA pasa de proponer una acción a ejecutarla, cambian también las preguntas. ¿A qué información puede acceder? ¿Qué permisos tiene? ¿Qué decisiones puede adoptar de forma autónoma? ¿Quién supervisa las acciones de mayor impacto? ¿Podemos reconstruir posteriormente qué hizo y por qué?
El reto empieza así a desplazarse. El cuello de botella puede dejar de ser la capacidad de los modelos para convertirse en nuestra capacidad para gobernarlos.
Esta cuestión conecta directamente con otro de los trabajos que acabamos de publicar dedicado a inteligencia artificial y ciberseguridad. Cuanto más autónomos son los sistemas, más importante resulta integrar la seguridad desde su diseño: control de accesos, mínimo privilegio, monitorización, trazabilidad, evaluación continua y capacidad de intervención humana.
No se trata de poner una persona detrás de cada decisión de una máquina ni de introducir capas burocráticas que impidan innovar. Se trata de establecer niveles de autonomía y supervisión acordes con el riesgo de cada proceso.
Europa ha hecho precisamente del enfoque basado en riesgo uno de los fundamentos de su Reglamento de Inteligencia Artificial, buscando combinar protección de derechos, seguridad e innovación. España avanza también en ese marco con el proyecto de Ley Orgánica para el buen uso y la gobernanza de la IA y con una arquitectura institucional de supervisión propia.
Esta semana, el presidente del Gobierno, Pedro Sánchez, presentó el Plan IA360, una hoja de ruta para los próximos doce meses que busca acelerar la adopción de la inteligencia artificial en nuestro país desde un enfoque de despliegue responsable, seguro y centrado en las personas.
Porque la pregunta ya no es si la IA va a transformar nuestras organizaciones, sino cómo vamos a incorporar esa transformación para que genere productividad, competitividad y bienestar sin comprometer la seguridad y la confianza.
Europa ha hecho precisamente del enfoque basado en el riesgo uno de los pilares de su modelo regulatorio. Y España cuenta además con una posición singular en este debate: Naciones Unidas ha situado en Valencia su AI Governance for Humanity Lab, concebido para acercar la gobernanza de la inteligencia artificial desde los principios hasta su aplicación práctica en empresas y organizaciones.
Ahí existe una oportunidad clara para España y para Europa. Podemos convertir la confianza en una ventaja competitiva si demostramos que es posible desplegar inteligencia artificial avanzada con seguridad y garantías sin transformar esas garantías en una barrera para innovar.
Porque las empresas no escalarán sistemas capaces de actuar sobre sus procesos críticos si no confían en ellos. Y los ciudadanos difícilmente adoptarán tecnologías que perciban como opacas o fuera de control. La confianza hace escalable la innovación.
La próxima etapa de la IA consistirá menos en desarrollar modelos más potentes, y más en construir las organizaciones y los mecanismos de gobernanza capaces de aprovecharlos responsablemente.
No necesitamos elegir entre acelerar o frenar. Necesitamos aprender a avanzar mejor.
*** Miguel Sánchez Galindo es director general de DigitalES.
