El avance de la inteligencia artificial (IA) y la velocidad con la que sus herramientas generan contenidos han obligado a las autoridades a establecer marcos regulatorios más estrictos para garantizar la transparencia.

En este escenario, la Unión Europea ha tomado la delantera global mediante su reciente Ley de IA, cuyas normas sobre transparencia imponen la obligación de identificar claramente cualquier material producido por algoritmos.

Como respuesta directa a este imperativo legal, OpenAI, que recientemente canceló el lanzamiento de GPT-6.1 Astra, ha anunciado en su blog que va a añadir marcas de agua invisibles en los textos generados por ChatGPT.

El despliegue de una tecnología de marcas de agua invisibles que se integrará en las respuestas escritas de ChatGPT y Codex para usuarios de la Unión Europea en las próximas semanas, cumpliendo así con las directrices fijadas por los reguladores del continente.

A diferencia de los sellos gráficos que se aplican en las imágenes, este mecanismo no introduce ningún elemento visual ni altera la lectura.

La técnica, denominada textGrain y desarrollada junto con investigadores de las universidades de Pensilvania y Yale, en EEUU, opera mediante modificaciones sutiles en la elección y el orden de las palabras a partir de una clave secreta.

Este patrón queda impreso en la estructura del texto, conservándose al copiar y pegar el contenido.

Aunque empresas rivales como Anthropic han aplicado marcas globales que provocaron críticas de usuarios que alegaban ser la parte creativa, OpenAI asegura que esta función no identifica al usuario ni reduce el rendimiento del modelo.

No obstante, la propia compañía ha advertido de que el sistema dista de ser infalible, pues reemplazar un 10 % de palabras por sinónimos reduce notablemente la tasa de detección, además de ser menos efectivo en pasajes cortos, traducciones o respuestas matemáticas.

Por este motivo, la tecnológica declaró: "Estas limitaciones contribuyen a nuestra decisión de proporcionar acceso inicial al detector únicamente a investigadores y organizaciones expertas autorizadas, que puedan ayudarnos a evaluar su fiabilidad y usos responsables".

La firma aclaró además que la falta de esta huella digital no constituye una evidencia definitiva de autoría humana, pues el pasaje podría pertenecer a otro modelo o haber sido modificado de forma profunda por una persona.

Asimismo, la empresa enfatizó las implicaciones de estas comprobaciones sobre el trabajo final del usuario al declarar que estas marcas "pueden indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto criterio humano, edición o creatividad se invirtió en él".

De este modo, la adopción de esta medida refleja el complejo equilibrio que deben mantener las firmas tecnológicas entre acatar la legislación europea y conservar la utilidad de sus modelos de inteligencia artificial frente a la exigencia de transparencia del mercado.