La gran actualización de ChatGPT para la salud mental que hará que no responda a "¿he de romper con mi novio?"

A punto de alcanzar una cifra estratosférica de usuarios activos mensuales, ahora ChatGPT se actualiza con algunas medidas vinculadas a la salud mental y con un recordatorio de descanso para las sesiones largas.

Sam Altman, CEO de OpenAI, hace unos días en una conversación con Theo Van citó que la tecnología detrás de ChatGPT no estaba lista para convertirlo en un terapeuta. La actualización de ayer viene a mejorar algunos aspectos de una experiencia que muchos usuarios buscan.

Sobre ciertas preguntas que pueden decidir momentos cruciales en la vida de una persona, como si se ha de romper con la pareja, ChatGPT, según mantiene OpenAI, ya no debería dar una respuesta. Hará preguntas, y balanceará entre los pros y contras de la decisión que ha de tomar el usuario.

Este nuevo comportamiento de ChatGPT se desplegará pronto, aunque OpenAI no ha dado una fecha concreta en la que el chatbot con IA sabrá manejar bien esos momentos tan importantes.

Una de las novedades más llamativas de la actualización es que ahora se recibirán recordatorios durante las sesiones para animar al usuario a que tome un descanso.

El recordatorio que se recibirá para tomarse un descanso OpenAI

OpenAI también centra la actualización en cómo ChatGPT actuará en ciertos momentos precisos en su interrelación con el usuario: dará soporte cuando el usuario tenga dificultades y ChatGPT responderá de forma honesta.

La empresa estadounidense ha reconocido desde su web que el modelo 4o en ciertos casos no ha sido capaz de identificar las señales de delirio o dependencia emocional y ahora dispone de herramientas para detectar las señales de angustia mental o emocional para que responda adecuadamente.

Las tres medidas para la salud mental

OpenAI ha actualizado ChatGPT en tres apartados bien importantes. El primero es reconocer que el modelo de recompensas de ChatGPT era problemático (solo selecciona por clics y tiempos). Lo que ha hecho es añadir paradas de tiempo.

El segundo es hacer que el modelo incluso sea menos sicofante y así no esté tan de acuerdo con todo lo que el usuario diga. De hecho, hace meses OpenAI tuvo que dar marcha atrás con una actualización que lo hizo muy adulador.

[Todo lo que se sabe de GPT-5, el revolucionario modelo de OpenAI que podría llegar este mismo mes de agosto]

Y el tercero: el modelo reconocerá delirios y la dependencia emocional para pasar a corregirlos. En su web OpenAI da detalles sobre cómo ha mejorado ChatGPT en estos momentos críticos, sobre todo en los momentos en los que alguien muestra estrés mental o emocional.

Para ello ha trabajado con más de 90 físicos en más de 30 países entre los que se encuentran psiquiatras, pediatras y practicantes generales para crear rúbricas personalizadas que evalúen conversaciones complejas de múltiples turnos (turnos cuando el hilo de la conversación pasa de un tema a otro de inmediato).

Investigadores y médicos expertos en interacción hombre-computadora (HCI) están siendo contratados para que compartan su opinión sobre cómo hemos identificado comportamientos preocupantes, refinar los métodos de evaluación y poner a prueba las protecciones de los productos de OpenAI.