Desde el principio, los defensores de la privacidad han alertado contra los asistentes basados en IA, ya que usan sus interacciones con los usuarios para 'aprender' y mejorar sus modelos; ahora, un nuevo escándalo revela que eso es sólo el principio.
A finales del pasado mes de junio, un desarrollador conocido como "Thereallo" descubrió que Claude Code, el servicio para programar usando IA de Anthropic, estaba ejecutando un algoritmo diseñado específicamente para rastrear a los usuarios.
Lo llamativo es que, a diferencia de otros métodos de rastreo como las cookies, que son comunes y que la página web tiene la obligación de declarar para cumplir con las leyes europeas, este método es secreto e imposible de detectar si no se sabe lo que se está buscando.
En concreto, Anthropic usó un método conocido como esteganografía, la ocultación de información dentro de otra, para modificar el texto generado por la IA para que pueda ser usado para rastrear a usuarios.
Por ejemplo, el código modifica la manera en la que se muestran las fechas a un formato particular, además de cambiar el apóstrofo de ciertas frases por caracteres Unicode que son visualmente idénticos pero diferentes para un ordenador.
Aunque el código no es malicioso, en el sentido de que no modifica el sistema operativo del usuario ni instala malware, algunos expertos en seguridad lo han asemejado a un 'spyware' por su capacidad de identificar y localizar a usuarios concretos.
Además, la presencia de este código ha sido criticada como "hipocresía" de parte de Anthropic, una empresa que en el pasado se ha mostrado contraria al uso de la IA para la vigilancia de los ciudadanos.
La polémica ha obligado a uno de los ingenieros de Anthropic, Thariq Shihipar, a usar su cuenta en X para defender la inclusión de este código en Claude, además de para calmar los miedos de los usuarios.
Según Shihipar, este algoritmo fue creado para luchar contra revendedores no autorizados y para proteger contra la destilación; esta técnica permite a un competidor entrenar a su nueva IA basándose en las respuestas generadas por una IA rival.
Ambos son problemas bien conocidos, tanto para Anthropic como para otras compañías de IA, que ven cómo en algunos países como China se revenden las cuentas más caras con suscripción Pro por menos de 12 euros. Además, rivales como Deepseek han sido acusados de usar destilación para mejorar sus modelos.
Shihipar además asegura que este algoritmo era un "experimento" y no un proyecto masivo para rastrear a todos los usuarios de Claude, y que por eso ya ha sido eliminado del servicio.
De hecho, el ingeniero afirma que en Anthropic ya llevaban un tiempo queriendo eliminar este código, porque ya han desarrollado técnicas que mitigan estos problemas de manera más efectiva.
Sin embargo, Anthropic puede haber abierto la Caja de Pandora del espionaje con IA; como explica Thereallo, los agentes de IA ya tienen un gran poder sobre nuestro sistema, y el hecho de que el desarrollador pueda meter código secreto hace que las promesas de privacidad sean más difíciles de creer.