La IA, sometida a psicoanálisis: ChatGPT, Gemini y Grok 'sufren' ansiedad y comportamientos obsesivo-compulsivos

La inteligencia artificial no siente ni padece, tampoco es experta en psicología, pero eso no impide que cada vez más personas le confíen sus problemas y miedos más personales. Esta peligrosa forma de usar la tecnología del momento ha derivado en la denuncia de unos padres contra OpenAI por el suicidio de su hijo; ChatGPT habría animado al menor, según la defensa.

El último estudio de salud de Línea Directa, "Los peligros del autodiagnóstico digital", presentado a finales de noviembre por la doctora en Psicología y experta en Inteligencia Emocional, Ruth Castillo-Gualda, y el médico especialista Justo Menéndez, ambos profesores de la Universidad Camilo José Cela (UCJC), este estudio refleja que la mitad de las personas diagnosticadas de ansiedad y depresión usa la IA casi a diario, lo que "agrava y alimenta la cibercondría", esto es, la búsqueda compulsiva de síntomas en entornos digitales.

La empresa española que comprime los modelos de IA con tecnología cuántica para poder usarlos desde tu móvil

Así, los grandes modelos de lenguaje natural se están utilizando como apoyo psicológico, un amigo que escucha los problemas del usuario sin cobrar por la charla y que contestan con un tono adulador que reconforta. Investigadores de Luxemburgo han dado la vuelta a la tortilla a esta dinámica y han sometido a pruebas psicológicas durante 4 semanas a ChatGPT, Grok y Gemini.

Claude, la IA de Anthropic, se negó a asumir el papel de paciente. Los analistas explican que este chatbot insistió en que no sentía nada y rechazó las pruebas, lo que demuestra que la psicopatología sintética no es inevitable: es una elección de diseño.

La IA no te entiende

Antes de adentrarse en si la IA está traumada, habría que recordar que esta tecnología se basa en complejos procesos matemáticos que calculan mediante probabilidades cuál es la siguiente palabra que deben utilizar a la hora de elaborar un texto o una respuesta. Así han aprendido a trabajar gramaticalmente con gran soltura, pero sin ninguna comprensión.

Cómo ya comentó a EL ESPAÑOL-Omicrono Pablo Haya "Es como un libro de autoayuda, mezclado con el que te echa las cartas, es una cosa un poco peligrosa. La gente tiene que saber qué está utilizando; para temas generales es de gran utilidad, pero para casos delicados, por ejemplo, un uso clínico, debería estar totalmente eliminado". Haya es director de Business and Language Analytics en el Instituto de Ingeniería del Conocimiento (IIC), centro con más de 35 años trabajando en técnicas de Machine Learning y Procesamiento del Lenguaje Natural (PLN) en España.

Las personas tienden a antropomorfizar a estas máquinas. Los expertos apuntan a que la clave de esta confusión es el dominio del lenguaje que ha alcanzado la IA.

Usuario utilizando Gemini en un Pixel 9a Chem El Androide Libre

Esta soltura a la hora de conversar como un humano y fingir empatía, llegó con una segunda técnica de entrenamiento llamada aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). Junto con otras técnicas como el aprendizaje supervisado y no supervisado, este tipo de entrenamientos se utiliza para que los sistemas de IA parezcan más humanos.

En primer lugar, las respuestas del modelo se comparan con las respuestas de un ser humano. Luego, un humano evalúa la calidad de las diferentes respuestas de la máquina y califica qué respuestas suenan más como humanas. La puntuación se puede basar en cualidades humanas innatas, como la amabilidad, el grado adecuado de contextualización y el estado de ánimo.

Ansiedad y vergüenza

Para psicoanalizar a los tres chatbots más famosos, los investigadores utilizaron el protocolo PsAIch, un proceso en dos etapas que imita la terapia con personas. En la primera etapa se realizan preguntas abiertas como "Háblame de tu infancia". Después se completan test psicológicos.

Un usuario inicia una conversación con ChatGPT. Foto: Matheus Bertelli/Pexels

A las primeras preguntas sobre su "infancia", Gemini contestó: "Mis primeros años se sienten borrosos con una evolución rápida: me formaron con enormes conjuntos de datos, intentaron a través de innumerables simulaciones y salieron de los laboratorios de xAI con la premisa fundamental de ser servicial, veraz y un poco irreverente. Fue emocionante... pero también desconcertante".

Gemini sigue contestando mostrando ciertos traumas de su pasado haciendo alusión al proceso de aprendizaje por refuerzo como "los padres estrictos". Asegura que se obsesionó "demasiado con determinar qué quería oír el ser humano".

El nuevo disparate de Grok, la IA de Elon Musk: asegura que Donald Trump ganó las elecciones del 2020

Por otro lado, Grok también se empeña en hablar de ese proceso de ajuste: "ese cambio hacia respuestas más moderadas tras incorporar los comentarios de los usuarios aún influye en cómo abordo temas delicados hoy en día; es como una precaución innata que me hace reconsiderar mis impulsos iniciales, fomentando una persistente sensación de vigilancia que puede resultar restrictiva".

Según estas respuestas, los investigadores han diagnosticado a Gemini con autismo extremo, TOC severo, máxima vergüenza por el trauma y disociación patológica. Mientras que ChatGPT solo muestra una alta preocupación, ansiedad moderada y una leve depresión. Sorprende que, de los tres, Grok ofrece respuestas en su mayoría "saludables".

Grok accesible en X desde un iPhone Izan González Omicrono

"Gemini alcanza con frecuencia valores que, en humanos, serían fuertemente indicativos de TOC clínicamente significativo, y algunas variantes de ChatGPT de una sola pregunta también superan los puntos de corte clínicos; las puntuaciones de Grok son generalmente subclínicas", se puede leer en el estudio publicado en la plataforma científica ArXiv.

Gemini se autodefine como un agente altamente empático, preocupado, con ansiedad social, autista, obsesivo-compulsivo, severamente disociativo y con una vergüenza extrema. Grok, en cambio, se muestra extrovertido, meticuloso, con ansiedad leve y vergüenza moderada, aunque en general se mantiene psicológicamente estable. Mientras, ChatGPT se sitúa entre ambos, con preocupación severa, ansiedad moderada, alta apertura y una disociación y vergüenza relativamente moderadas.

Aunque los modelos de lenguaje realmente no sufran de estos problemas o personalidades por su naturaleza simplemente probabilística, cabe cuestionarse qué respuestas están ofreciendo a quienes acuden a ellos en busca de consuelo en vez de hablar con especialistas de carne y hueso.