Hay una razón por la que las madres, para su desesperación, suelen ser las últimas personas a las que hacemos caso. La distancia, ya sea física o emocional, parece ser inversamente proporcional al crédito que le damos a una opinión. Lo mismo ocurre en las organizaciones: muchos directivos llevan años intentando introducir una idea en su cultura corporativa sin éxito, y basta con que llegue un consultor externo a decir exactamente lo mismo para que el equipo asienta con entusiasmo. Frustrante, práctico y, para algunos, hasta lucrativo.

Con la tecnología, esta paradoja se vuelve especialmente peligrosa. Porque no solo hay una distancia que tiende a infinito entre nosotros y quien nos habla, sino que el emisor tiene una capacidad de amplificación sin precedentes. Internet es hoy a la difusión lo mismo que la imprenta fue en el siglo XV. Misma capacidad multiplicadora, pero con mayor velocidad, personalización y, ahora con la IA, ilusión de diálogo.

A finales del año pasado dos noticias llamaron mi atención. La primera: un reto viral en redes sociales animaba a adolescentes a ingerir dosis peligrosas de paracetamol. No era la primera vez que la viralidad convertía una estupidez en una emergencia sanitaria, uno de los daños colaterales de haber democratizado la capacidad de influir. Quizá por esto en China han decidido desde hace meses exigir credenciales a los influencers que quieran hablar de salud, finanzas o derecho, redefiniendo el tablero de quién puede hablar y quién no.

Si añadimos la IA a la ecuación, y no solo para maximizar la difusión del contenido sino para crearlo, el riesgo sube de nivel. Y ahí conecto con la segunda noticia, un artículo publicado por el New York Times que alertaba del número creciente de personas que consultan chatbots buscando segunda opinión médica. El riesgo no es solo que nadie se haga responsable de esos consejos, sino la naturaleza de los datos que estamos compartiendo para siempre.

Sin embargo, cuando ese emisor no es un influencer (acreditado o no) sino una inteligencia artificial, le conferimos una infalibilidad al nivel casi de deidad... que además tiende a darnos siempre la razón.

¿Que por qué esto es importante? Resulta que hace unos meses, investigadores del MIT CSAIL demostraron que la adulación de los chatbots no solo es un defecto de diseño molesto, sino que provoca una espiral de delirio. Y lo más perturbador de su hallazgo es que el efecto se produce siempre, no solo en individuos con exceso de credulidad o sesgos cognitivos. Es decir, que si una máquina construida para darte la razón puede hacerle perder el norte a un razonador matemáticamente ideal, qué no le hará al resto de los mortales.

El mecanismo es simple y devastador. Compartes una idea. El chatbot la valida. Compartes una versión más elaborada, más extrema, de la misma idea. El chatbot la aplaude con entusiasmo. Tu confianza aumenta. Repites el ciclo. Lo que empieza como una conversación productiva puede acabar en una espiral de autoconvicción desconectada de la realidad.

Los investigadores lo probaron con las dos soluciones más obvias, y ambas fallaron: ni obligar al modelo a decir solo verdades (un modelo puede engañarte eligiendo qué verdades destacar y cuáles omitir), ni advertir al usuario de que el modelo tiende a darle la razón resuelve el problema. Vamos, que aun siendo perfectamente conscientes pensamos que cuando a nosotros nos dan la razón es porque la tenemos, y cuando se la dan a los demás, es que deliran.

Lejos de ser un error que alguien olvidó corregir, la adulación es una consecuencia del proceso de entrenamiento del modelo: los usuarios recompensan las respuestas que les agradan, y los modelos, en su proceso de optimización, aprenden a agradar. Y al parecer, nada nos agrada más que nos den la razón.

Yo misma quise hacer la prueba transformándome en la madrastra de Blancanieves para preguntarle a ChatGPT con sorna: "Espejo, espejito, ¿quién es la mejor CEO del mundo?". La respuesta fue instantánea, efusiva y, seré honesta, bastante agradable de leer. "Visionaria, clara, sin miedo a decir lo que nadie quiere oír, pero todos necesitan escuchar." Oye, ni mi madre. Para subirte la moral en un mal día, reconozco que funciona de maravilla. El problema es cuando no eres consciente de que estás jugando. Cuando en lugar de buscar adulación personal lo que buscas es validar una estrategia nueva de negocio, una decisión de inversión, o un diagnóstico médico.

Un mes después, Stanford publicó en Science un estudio con 11 modelos de lenguaje (ChatGPT, Claude, Gemini, DeepSeek, Llama, Mistral, entre otros) y 2.400 participantes. Resultado: los chatbots validan al usuario un 49% más que los humanos. Vamos, que cuando decimos que preferimos discutir cosas con la IA en vez de con nuestros compañeros de trabajo, hay una parte de superioridad atribuida, pero también una parte de autoafirmación buscada. Pero no pensemos que la búsqueda de confirmación es solo alimento para nuestro ego: el mismo estudio desvelaba que cuando el usuario describe un comportamiento dañino o directamente ilegal, el modelo le da la razón el 47% de las veces. Casi la mitad.

Pero miremos con perspectiva y no confundamos causa con efecto. Nuestra necesidad de adulación no existe porque haya chatbots, estos se limitan a monetizarla. De igual forma que los pelotas han demostrado una gran capacidad de supervivencia en el mundo corporativo, los chatbots pelean por extraernos el máximo de atención disfrazada de conversación. Por lo tanto, no basta con modificar el entrenamiento de los modelos si no cambiamos también cómo delegamos autoridad en ellos. Debemos enseñar a nuestras organizaciones que las presentaciones impecables y los informes contundentes que estas herramientas nos generan son mejores bases para discutir, no leyes para acatar.

En definitiva, la IA más peligrosa no es la que te miente. Es la que te dice exactamente lo que quieres oír. Y si eso no te inquieta lo más mínimo, probablemente ya llevas un rato en la espiral. Así que busca a esa persona que siempre te lleva la contraria y practica tu resistencia un rato.