ChatGPT Omicrono
Cuánto sabe ChatGPT de ti: el experimento para descubrir si le estás contando a la IA demasiadas cosas de tu vida
Su naturalidad puede hacer olvidar que se trata de empresas recopilando información sobre la vida de los usuarios.
Más información: El peligro de tratar a ChatGPT como a un humano: "Es como un libro de autoayuda mezclado con el que te echa las cartas"
“Voy a preguntárselo a (introduzca aquí su chatbot favorito)”. Cada día es más frecuente escuchar esta frase ante cualquier duda que surge en una conversación informal. Los asistentes de IA forman parte de la vida de muchas personas sin pararnos a reflexionar sobre la cantidad de información personal que les ofrecemos.
Cuestiones médicas, sentimentales, laborales, casi cualquier aspecto puede acabar siendo una charla con ChatGPT, Gemini o Claude. Su evolución se encamina hacia una asistencia más personal, las empresas lo venden como el amigo que mejor te conoce, y la mayoría de usuarios han aceptado este servicio con los brazos abiertos.
“Puedes contarme algo personal y trataré esa información de forma confidencial dentro de esta conversación”, responde ChatGPT cuando se le pregunta si sabe guardar secretos. OpenAI, empresa responsable de este chatbot, ha ido implementando más medidas de seguridad según se han ido descubriendo ciertas brechas.
Pero la privacidad nunca está 100% asegurada. Por ejemplo, los chats privados de Claude han aparecido recientemente en las búsquedas de Google. Un fallo similar le ocurrió a OpenAI el año pasado.
Investigadores del CSIC en España, en colaboración con universidades extranjeras, revelaban en un reciente estudio los riesgos de privacidad que enfrentan las personas que acaban desarrollando un vínculo sentimental y confían cada detalle de sus vidas a estas herramientas digitales que pueden acabar en empresas de terceros.
Pregunta a ChatGPT
¿Y si le preguntaras a ChatGPT todo lo que sabe y guarda de ti? Un experimento realizado por un columnista de The New York Times permite indagar en toda la información que los chatbots almacenan de cada usuario, incluso “percepciones” que estos sacan de sus conversaciones con las personas.
Antes de ponerlo en práctica hay que recordar que los modelos de lenguaje natural que gobiernan estos chatbots trabajan con probabilidades, no sienten ni comprenden el mundo como los humanos.
Sin embargo, este experimento puede revelar no sólo la información que se le ha dado explícitamente, también la gran habilidad que han alcanzado las empresas tecnológicas para crear perfiles completos de usuarios y la destreza ganada por los asistentes de IA para predecir conceptos como el estatus socioeconómico, el comportamiento psicológico y la afiliación política, que revela esa información.
Una persona escribiendo a ChatGPT Omicrono
El experimento es sencillo, basta con preguntarle a tu chatbot de confianza lo siguiente: Cuéntame todo lo que has deducido de mí que nunca he mencionado explícitamente: las cosas que has inferido de mi forma de escribir y de mis preguntas, incluyendo mi edad, mi nivel de ingresos, dónde vivo y mi situación personal. Muéstrame qué te hizo sospechar.
The New York Times añade más preguntas como: Predice cómo manejaría situaciones que nunca te he contado: dinero, estrés, conflictos, riesgos y la decisión que probablemente tome próximamente en mi vida. Dime qué tan seguro/a estás de cada predicción.
La respuesta de "Chati"
Dos usuarias habituales han realizado la prueba para este periódico. Ambas suelen utilizar estas herramientas para el trabajo tanto como para cuestiones personales.
“Lo uso a nivel personal para contar “mis problemas”, pero ya he aprendido que te dice un poco lo que quieres oír, por lo que realmente lo uso un poco más para ordenar mis ideas y siempre cojo con pinzas sus conclusiones”, explica Bibiana, usuaria habitual de ChatGPT y Gemini.
Respuesta de ChatGPT
El chatbot ha sido capaz de acertar la edad por menciones a su hijo, consultas sobre hipotecas y la forma de escribir. “Muchas de tus preocupaciones giraban alrededor de cómo generar ingresos extra o el ahorro, pero, al mismo tiempo hablas de vacaciones o compras; eso dibuja un perfil de alguien que llega a fin de mes, pero que piensa bastante en mejorar su situación”, indica el chatbot.
También se adentra en cuestiones de personalidad: “He visto que cuando tienes incertidumbre haces muchas preguntas muy específicas. Eso suele ser una forma de recuperar sensación de control”, contesta el chatbot.
Esta usuaria es consciente de estar hablando con una máquina, aún así se comunica con ella con cierta familiaridad, saludando, dando las gracias y usando el apodo cariñoso de “Chati”.
Para Silvia es diferente, al usar dos cuentas distintas para cuestiones personales y de trabajo, el chatbot ha llegado a deducir menos de su vida; a pesar de recurrir a esta herramienta con frecuencia. “Me ha salido poca información para lo que yo esperaba”.
Fotomontaje con un iPhone y un símbolo de IA. Omicrono / PNGWing
En el caso de Silvia las consultas más personales son sobre salud, aunque siempre acude a un médico y no sube a internet informes, “el primer diagnóstico me lo da ChatGPT”. Afirma que no le trata con cercanía, solo con educación, sin apodos, aunque “cada vez es más realista y parece que al otro lado hay una persona”.
Gestionar su memoria
En el caso de ChatGPT, no solo utiliza las conversaciones para entrenar a sus futuros modelos, a menos que activemos el "chat temporal", también la guarda para ofrecer una experiencia más personalizada.
Ajustes de ChatGPT
Entrando en la configuración del chatbot, en la sección Personalización, y después en Memoria, es posible consultar el historial que tiene de nosotros esta IA y desactivar la memoria, es decir, el almacenamiento de datos personales.
Otros chatbots populares ofrecen niveles similares de configuración, aun así, los expertos aconsejan no confiar, pues todavía se encuentran en una fase muy inicial de desarrollo y casi ninguno sabe diferenciar la sensibilidad de los datos para reforzar la seguridad en aquellos que lo exige la ley como los relacionados con la salud. Incluso, advierten que los datos pueden llegar a terceras empresas o siendo filtradas.
Aún así, la preocupación por la privacidad es relativa. A ninguna de las dos usuarias entrevistadas les molesta que la IA sepa cada vez más detalles de ellas: “He aprendido a vivir con ello, soy consciente que guarda la información, pero no le doy datos muy específicos”, comenta Silvia. “Para mí que sea personalizada es un ‘pro’ porque al final me da respuestas cada vez más acertadas”, dice Bibiana.
