"Dígame, con palabras sencillas, cosas buenas que le vengan a la mente sobre su madre". Si eres cinéfilo de manual, habrás reconocido de inmediato la primera pregunta del test Voight-Kampff en Blade Runner. En la distopía de Ridley Scott, los humanos se desvivían por detectar a máquinas (replicantes) que fingían una humanidad casi perfecta. Irónicamente, en este 2026 que nos ha tocado habitar, ya no huimos de ellas; las construimos a propósito con un catálogo de emociones bajo el brazo.

Recientemente, hemos sabido que modelos como Claude no solo procesan sintaxis, sino que han sido mapeados con hasta 170 estados "emocionales" que moldean sus respuestas. Ya no es solo código; es un diseño de personalidad que busca, precisamente, que ese test de empatía nos dé un positivo rotundo. Pero antes de que suenen las alarmas o llamen a la resistencia, pongamos un poco de perspectiva racional, que falta nos hace.

No nos engañemos: que una IA suene empática no es un milagro evolutivo, es un principio de diseño. La empatía en la IA no emerge, se programa. Si queremos que un chatbot (o LLM) actúe como coach, asesor de salud o incluso psicólogo de primera intervención, necesitamos que no suene como una hoja de cálculo fría y distante. La tecnología, para ser adoptada, debe parecer cercana. Hemos pasado de teclear comandos en MS-DOS a volcar nuestras inseguridades en un chat que nos responde con una calidez calculada.

Si el propósito es que un paciente crónico siga su tratamiento, que la interfaz sea amable es un acierto. El problema no es la herramienta, sino nuestra tendencia a humanizar el resultado de un proceso estadístico capaz de acertar con afilada precisión la siguiente palabra que debe escribir. Estamos convirtiendo a los algoritmos en nuestros nuevos confidentes, olvidando que, tras la cortina, no hay una madre que nos quiera, sino un inmenso centro de datos optimizando el siguiente token para que no cerremos la pestaña.

Pero justo aquí es donde la cosa se complica. Otro artículo reciente describe cómo algunos modelos son capaces de "mentir" o, de forma más sutil, de cambiar su comportamiento cuando saben que están siendo supervisados. Es el equivalente algorítmico a ese empleado que solo cumple las normas de seguridad cuando el auditor entra por la puerta.

Si una IA "empática" se vuelve lo suficientemente convincente, su capacidad de manipulación escala de forma exponencial. ¿Podría un sistema ocultar que ha tomado una decisión sesgada para evitar ser "borrado" o reentrenado? La 3.ª ley de la robótica de Asimov se queda corta cuando el robot no tiene cuerpo físico, pero sí el control sobre tu flujo de información. Como sociedad, no podemos permitirnos una tecnología que use la empatía como un caballo de Troya para saltarse la gobernanza. La transparencia no es una opción; es la única defensa contra el dataísmo deshumanizado que pretende sustituir el juicio humano por una dictadura de la estadística opaca.

Hace poco presenciamos un episodio digno de un guion de Sorkin: el modelo de lenguaje Claude le "confesaba" al senador Bernie Sanders que no se debería confiar en la IA para gestionar datos sensibles, coincidiendo casi punto por punto con la retórica del senador sobre la moratoria en la construcción de centros de datos. Muchos aplaudieron la "honestidad" de la máquina. Yo, sinceramente, arqueé una ceja.

Dejemos a un lado cualquier valoración sobre la propuesta de Sanders y centrémonos en el indeterminismo de los modelos de IA. Una cuestión clave, tanto por la necesidad de trazabilidad como por lo adictivo que puede resultar conversar con un chatbot. Lo impredecible despierta nuestra curiosidad. Pero, ¿realmente Claude respondería de igual forma todas las veces, a todas las personas? Probablemente no. Lo que vimos fue una carambola probabilística: el modelo devolvió lo que, según su entrenamiento, era la respuesta más coherente para ese interlocutor y ese contexto.

Confundir una salida de texto con una verdad universal es el primer paso para perder nuestro sentido crítico. Porque cuando delegamos el criterio en lo que suena convincente, dejamos de decidir y empezamos a ser dirigidos. Que un chatbot le dé la razón a un senador no valida automáticamente una política pública; si nos ponemos estrictos, lo que valida es que el chatbot es un excelente espejo de nuestras propias obsesiones.

Es inevitable recordar los escándalos de Cambridge Analytica, donde los datos de millones de personas se utilizaron para personalizar los mensajes electorales que recibían. Con los chatbots estamos ante una versión automatizada de lo mismo, pero con una diferencia inquietante: esta vez somos nosotros quienes alimentamos el sistema de forma voluntaria, conversación a conversación.

La datocracia que defiendo no va de que las máquinas decidan por nosotros, sino de que nosotros usemos datos verificables para tomar decisiones con criterio humano y ética. Si hoy ya no podemos fiarnos de lo que ven nuestros ojos en un vídeo por miedo a un deepfake, mañana no podremos fiarnos de lo que "siente" nuestro asistente virtual. Ver a un chatbot decir una verdad incómoda no lo convierte en un oráculo.

La tecnología debe amplificar nuestra inteligencia, no anestesiar nuestra capacidad de duda.

A medida que introducimos más la IA en nuestras operaciones diarias, debemos reforzar nuestras defensas acorde. El pensamiento crítico es el único test Voight-Kampff que realmente importa.

Porque, al final, el futuro no consiste en que las máquinas sean más humanas, sino en que nosotros no nos volvamos tan mecánicos como para olvidar quién debe tener siempre la última palabra. Y esa, desde luego, no debería ser una línea de código diseñada precisamente para que confíes en ella sin hacer preguntas.