Imagen de recurso.
Los 'chatbots' de IA que prometen combatir la soledad pueden acabar agravándola
Un estudio de Stanford basado en más de 1.100 usuarios de Character.AI concluye que las personas con redes sociales reducidas que buscan apoyo emocional en estas inteligencias artificiales presentan peores indicadores de bienestar psicológico.
Más información: “Desarmar” la inteligencia artificial: el Papa León XIV abre el frente doctrinal para recuperar la dignidad humana
Los chatbots diseñados para hacer compañía prometen combatir la soledad, pero para una parte de sus usuarios podrían estar consiguiendo exactamente lo contrario.
Así lo atestigua una investigación de la Universidad de Stanford, después de estudiar a más de un millar de personas que utilizan de forma habitual Character.AI: quienes recurren a estos sistemas buscando apoyo emocional y cuentan con una red social limitada presentan peores indicadores de bienestar psicológico que el resto.
Los llamados AI companions, esta suerte de amigos e incluso parejas virtuales, viven un crecimiento explosivo, con millones de conversaciones diarias. Sin ir más lejos, Character.AI supera los 20 millones de usuarios activos mensuales y plataformas como Replika o Chai han convertido las relaciones emocionales con chatbots en un negocio multimillonario y con la expectativa de ser uno de los nichos más rentables de la inteligencia artificial.
Empero, ya hemos visto casos en los que su labor ha sido cuanto menos discutible. En 2023, la muerte de un hombre belga que mantenía conversaciones con un chatbot llamado Eliza abrió el primer gran debate europeo sobre el papel de estas aplicaciones en personas vulnerables. Meses después, el suicidio del adolescente estadounidense Sewell Setzer III tras desarrollar una intensa relación con un personaje de Character.AI desencadenó una cascada de demandas contra la compañía y situó a los AI companions bajo el foco de jueces y legisladores.
De sucesos como esos parte el estudio de Diyi Yang, profesora del Departamento de Ciencias de la Computación de Stanford, publicado en Nature Human Behaviour.
Apenas un 12% de los usuarios que usaban estos chatbots de compañía aseguró que su principal motivo para utilizar estas herramientas era, precisamente, buscar compañía. Sin embargo, cuando los investigadores analizaron las respuestas abiertas y los historiales de conversación mediante modelos como GPT-4o, Llama 3-70B y TopicGPT, el panorama cambió de forma radical: más de la mitad describía a su chatbot como un "amigo", un "compañero" o una "pareja romántica", mientras que más del 80% de las conversaciones compartidas giraban alrededor de la búsqueda de apoyo emocional o social.
La diferencia resulta especialmente relevante porque evidencia que la relación con estos sistemas evoluciona con rapidez. Muchos usuarios llegan atraídos por la curiosidad, el entretenimiento o la productividad, pero acaban desarrollando un vínculo mucho más personal, humanizando a esta tecnología y llegando a contarle preocupaciones, pedirle consejos personales o, simplemente, llenar los silencios del día.
El peligro de establecer vínculos emocionales
El trabajo también desmonta una idea simplista que suele repetirse alrededor de este tipo de plataformas: cuanto más se utilizan, peor es el resultado. Según los investigadores de Stanford, el uso intensivo, por sí mismo, no aparece asociado necesariamente a un deterioro del bienestar. De hecho, quienes emplean estos sistemas porque les resultan útiles, sienten orgullo por dominarlos o consideran que aportan valor a su trabajo muestran indicadores psicológicos positivos.
El problema aparece cuando la motivación principal deja de ser funcional y pasa a ser puramente emocional. Entre las personas con pocos vínculos sociales fuera de internet, el uso intenso de chatbots como sustituto de la compañía humana se asocia de forma consistente con una menor sensación de bienestar. En otras palabras: cuanto más reducida es la red de familiares o amigos con los que una persona puede hablar de problemas personales, más fuerte resulta esa correlación.
Los investigadores también detectaron otro patrón especialmente significativo. Los usuarios que confesaban con mayor facilidad información extremadamente sensible a sus compañeros virtuales (desde problemas emocionales hasta consumo de sustancias o pensamientos suicidas) obtenían peores resultados en las escalas psicológicas utilizadas para medir su bienestar. Justo lo contrario de lo que sucede con las interacciones humanas, cuando compartir experiencias difíciles suele fortalecer los vínculos y mejorar la salud emocional.
Personaje de Daenerys Targaryen creado por un usuario en el chat conversacional de Character.AI
La explicación puede encontrarse precisamente en aquello que diferencia una conversación con una máquina de una conversación entre seres humanos. Un chatbot puede responder con empatía simulada, recordar conversaciones anteriores o mantener un tono cercano durante meses, pero carece de reciprocidad. Nunca comparte una experiencia propia, nunca asume riesgos personales dentro de la conversación y tampoco posee una comprensión real del contexto emocional del usuario.
De este modo, la interacción mantiene la apariencia de una relación profunda, pero carece de muchos de los elementos psicológicos que hacen valioso el apoyo social entre personas.
A ello se suma un aspecto que afecta al propio diseño de estos productos: la llamada economía de la atención. Plataformas como Character.AI están construidas para maximizar el tiempo de interacción. No en vano, su objetivo comercial consiste en mantener la conversación activa el mayor tiempo posible, generando respuestas que inviten a seguir escribiendo. Desde esa perspectiva, la conversación constituye el producto.
Los investigadores consideran que esa arquitectura puede contribuir a reforzar un círculo vicioso del que resulta difícil salir para determinados perfiles vulnerables.
El 'aperitivo social'
Yutong Zhang, otra de las autoras del estudio, no duda en calificar a estos AI Companion como un "tentempié social": ofrecen una satisfacción inmediata frente a la soledad, alivian momentáneamente la necesidad de conversación y proporcionan una sensación de cercanía, pero no contienen los ingredientes necesarios para construir bienestar emocional a largo plazo. Y si seguimos con símiles alimenticios, podríamos alegar que -al igual que ocurre con la comida ultraprocesada- el efecto inmediato puede resultar agradable mientras el impacto acumulado termina siendo mucho menos positivo.
De hecho, estos mecanismos pueden alimentar un proceso de aislamiento progresivo de la persona ya de por sí con problemas sociales. Así, una persona con pocas amistades en el mundo real encuentra en el chatbot una conversación siempre disponible, sin juicios ni conflictos, lo que reduce el incentivo para buscar interacciones más complejas con otras personas. Y, al mismo tiempo, esa disminución del contacto social incrementa la sensación de soledad, favoreciendo todavía más el uso del asistente conversacional y reforzando un ciclo que termina alejando al usuario de su entorno real.
En cualquier caso, el estudio de la Universidad de Stanford no se atreve a afirmar que los chatbots provoquen directamente la soledad. Los propios investigadores insisten en que sus resultados muestran una correlación y no una relación causal demostrada, ya que las personas más vulnerables buscan estos sistemas precisamente porque ya experimentaban sentimientos de aislamiento antes de empezar a utilizarlos.
Determinar hasta qué punto la inteligencia artificial agrava esa situación constituye precisamente la siguiente línea de investigación del equipo liderado por Diyi Yang.
