Con la disponibilidad mundial de ChatGPT Go, la suscripción barata que amplía los límites de uso de sus modelos, y la preocupación por el impacto de la IA en la gente joven, OpenAI ha introducido la verificación de edad en ChatGPT.
Está diseñada para identificar menores y establecer restricciones de contenido razonables en sus conversaciones.
OpenAI ha sido duramente criticada por el impacto que ha supuesto ChatGPT en los menores y que ha conllevado varios suicidios de adolescentes vinculados al uso del chatbot con IA.
Las críticas también se han dirigido por permitir que ChatGPT trate temas sexuales con usuarios jóvenes.
Según TechCrunch, en abril del año pasado OpenAI se vio obligada a corregir un fallo que permitía generar contenido erótico para menores de 18 años.
Esta nueva funcionalidad de ChatGPT utiliza un algoritmo de IA que se encarga de analizar las cuentas de los usuarios para buscar ciertas 'señales de comportamiento y a nivel de cuenta' con el objetivo concreto de identificar usuarios jóvenes.
OpenAI publicó toda la información este martes pasado y da detalles sobre las señales que el algoritmo de IA identifica como la edad declarada por el propio usuario, la antigüedad de la cuenta y las horas del día en las que está activo.
Una nueva función que se suma a los filtros de contenido ya integrados en ChatGPT diseñados para bloquear conversaciones relacionadas con sexo, violencia y otros temas problemáticos para usuarios menores de 18 años.
Esta nueva herramienta, si por lo que fuera identifica por error a un usuario como menor, da la opción de restablecer su cuenta como una de adulto.
Y es bastante controvertida por el hecho de que obliga al usuario a enviar una foto selfie a Persona, el socio de verificación de identidad de OpenAI.
Sobre todo si por error se identifica a una persona adulta, que se verá en la obligación de subir una foto para poder seguir usando ChatGPT con normalidad.
Cuando anteriormente, de ninguna de las maneras, se ha forzado al envío de una foto selfie para verificar su edad para corregir un error de un sistema que, por lo que parece, no funciona del todo bien.
Esta nueva herramienta de ChatGPT llega para preparar el lanzamiento del modo adulto que permitirá a los usuarios crear y consumir contenido que sería etiquetado como NSFW (No Safe For Work).
Habrá que ver el impacto que tiene tanto la identificación de menores como el modo adulto, teniendo en cuenta cómo ha funcionado un cambio similar en Roblox que, según Engadget, dio pie a que usuarios menores de edad busquen formas de eludir las señales que el algoritmo de IA identifica.