En 1797, Johann Wolfgang von Goethe publicó El aprendiz de brujo, una historia que dos siglos después conserva una inquietante actualidad. Aprovechando la ausencia de su maestro, un joven aprendiz utiliza un encantamiento para ordenar a una escoba que transporte agua. La magia funciona. La escoba obedece, pero el aprendiz descubre que sabe activar aquel poder y no sabe detenerlo. Finalmente, el maestro regresa y recupera el control. La historia suele interpretarse como una advertencia sobre utilizar fuerzas que todavía no sabemos gobernar. Quizá por eso resulta difícil leerla hoy sin pensar en la inteligencia artificial. No porque estemos necesariamente ante una escoba descontrolada, sino porque vuelve a plantearnos una pregunta muy antigua. ¿Qué ocurre cuando nuestra capacidad para crear poder avanza más deprisa que nuestro criterio para dirigirlo?
Pensé en Goethe después de ver El docu de la IA: O cómo me convertí en un apocaliptimista, un documental deliberadamente inquietante sobre algunos de los escenarios más oscuros asociados al desarrollo de la inteligencia artificial, como la pérdida de control, los sistemas cada vez más autónomos, la concentración de poder o las dificultades para garantizar que inteligencias futuras actúen conforme a nuestros intereses. Son riesgos que merecen ser tomados en serio, aunque nadie pueda conocer hoy cuáles llegarán realmente a producirse. Entre el entusiasmo tecnológico y el apocalipticismo existe, sin embargo, una cuestión menos espectacular y mucho más inmediata. ¿Qué capacidades humanas estamos empezando a delegar voluntariamente en sistemas que cada día resultan más convincentes? Cuanto mayor sea la capacidad que delegamos, más importante será conservar la dirección.
Los datos recientes muestran que esa transición ya está ocurriendo. OpenAI describe una evolución desde “preguntar” hacia “hacer”, mientras Anthropic observa con Claude el avance hacia tareas agénticas más largas y autónomas. Ya no utilizamos la IA únicamente para buscar información. Escribimos, analizamos, programamos y comenzamos a delegar procesos completos. La asistencia empieza a convertirse en ejecución, y eso cambia no solo lo que las máquinas pueden hacer, sino también aquello que nosotros dejamos de hacer.
En paralelo, PISA 2025 acaba de registrar los resultados medios más bajos de su historia en lectura y matemáticas en la OCDE. Sería incorrecto responsabilizar de este deterioro a la inteligencia artificial. Las tendencias son anteriores y responden a múltiples causas. Pero la coincidencia plantea una paradoja interesante. Estamos construyendo máquinas cada vez mejores para procesar conocimiento mientras algunas capacidades humanas necesarias para comprenderlo, cuestionarlo y utilizarlo muestran señales preocupantes.
El problema tampoco termina al abandonar las aulas. David Lancefield acaba de plantearlo en Harvard Business Review desde la perspectiva del liderazgo. La inteligencia artificial puede hacer que un equipo directivo sea más rápido, esté mejor informado y analice cantidades de información antes inimaginables. Pero observa también que, cuanto más dependían algunos equipos de estas herramientas, más convergía su pensamiento hacia ideas familiares, defendibles y perfectamente razonadas, pero progresivamente genéricas. Para Lancefield, la agencia del líder se expresa especialmente mediante tres capacidades: criterio, voz y presencia. La IA puede apoyarlas, pero pequeñas delegaciones sucesivas pueden terminar debilitando precisamente aquello que pretendíamos aumentar.
Su recomendación contiene una idea sencilla, pensar antes de preguntar. Uno de los ejecutivos que describe comenzó a escribir su propio diagnóstico antes de consultar el análisis de la IA y solo después utilizaba la máquina para cuestionarlo, confirmarlo o descubrir aquello que había pasado por alto. Invertir el orden importa. Si preguntamos primero a una máquina cada vez que necesitamos interpretar una situación, corremos el riesgo de convertir su marco inicial en el nuestro. La IA debería ampliar nuestro pensamiento, no convertirse automáticamente en su punto de partida.
Otro artículo reciente de Harvard Business Review, firmado por Leonid Sudakov y Nathan Furr, profundiza en esta preocupación. Los autores parten de un experimento con 228 evaluadores experimentados y 48 propuestas de un desafío global de innovación del MIT. Cuando la IA recomendaba rechazar proyectos que el panel experto consideraba prometedores, los evaluadores tendían a seguirla. Más sorprendente todavía, proporcionar una explicación narrativa de la recomendación equivocada hacía menos probable que los humanos la corrigieran. El problema no consiste solamente en que una inteligencia artificial pueda equivocarse, sino en que su capacidad para argumentar pueda reducir nuestra disposición a contradecirla.
Sudakov y Furr utilizan un concepto especialmente interesante, original judgment, el criterio original. Lo relacionan con la amplitud de percepción, que permite detectar señales débiles, anomalías y conexiones fuera de lo evidente, y la independencia de interpretación, que permite construir una perspectiva propia en lugar de adoptar automáticamente la del modelo o la del grupo. En un mundo en el que millones de profesionales tendrán acceso a sistemas construidos sobre enormes cantidades de conocimiento, la ventaja competitiva podría desplazarse desde disponer de más información hacia ser capaz de interpretarla de manera diferente.
Hace casi tres mil años, Homero imaginó otra respuesta a un problema parecido. Ulises quería escuchar el canto de las sirenas, pero sabía que, cuando lo hiciera, su criterio dejaría de ser fiable. Por eso pidió que lo ataran al mástil y que no lo liberaran aunque él mismo lo ordenara. La inteligencia de aquella decisión estaba en establecer los límites antes de enfrentarse a aquello capaz de alterar su voluntad. Quizá necesitemos algo parecido en nuestras organizaciones, decidir previamente qué puede hacer una IA autónomamente, cuándo debe intervenir una persona y quién conserva la responsabilidad cuando algo sale mal. No se trata de levantar barreras contra la inteligencia artificial, sino de aprender a gobernarla sin convertir la comodidad en dependencia.
No sabemos si el futuro terminará pareciéndose a los escenarios del documental que me convirtió durante un par de horas en algo parecido a un apocaliptimista. Tampoco sabemos hasta dónde llegarán ChatGPT, Claude, Gemini o los sistemas que todavía no existen. Podemos delegar búsqueda, cálculo, síntesis, programación y cada vez más ejecución; podemos pedirles que cuestionen nuestras hipótesis y descubran nuestros puntos ciegos. Pero dirección, criterio, discrepancia, responsabilidad y propósito son capacidades que merece la pena ejercitar precisamente porque las máquinas son cada vez mejores. El aprendiz de Goethe no se equivocó por utilizar la magia, sino por utilizar un poder que todavía no sabía gobernar. Quizá la gran ventaja de los próximos años no consista únicamente en disponer de la inteligencia artificial más poderosa, sino en conservar personas capaces de dirigirla y, cuando sea necesario, contradecirla. Podemos delegar muchas cosas en las máquinas. Lo que no deberíamos delegar es la brújula.
***Paco Bree es profesor de Deusto Business School, Advantere School of Management y asesor de Innsomnia Business Accelerator.
