China presenta su gran ley para las IA tipo ChatGPT: deben tener "valores socialistas" y no hacerse pasar por humanos

Para millones de personas, los "chatbots" basados en inteligencia artificial como ChatGPT o Gemini son algo más que asistentes personales: son amigos o incluso miembros de la familia. El abuso de esta nueva tecnología ha terminado incluso en suicidios asistidos por IA.

Ahora, China ha presentado una propuesta para regular este tipo de "IA humanizadas" que imitan el comportamiento humano para acercarse emocionalmente al usuario y ofrecerle una ayuda más personalizada.

El CAC (Cyberspace Administration of China, el máximo regulador de Internet) ha hecho público el borrador para obtener opiniones de la ciudadanía, e incluye varias protecciones para los usuarios, además de una base para un control político de estos sistemas.

OpenAI trabaja en un control parental tras una demanda: una familia acusa a ChatGPT de ayudar a su hijo a suicidarse

No en vano, el objetivo de estas reglas es "promover un desarrollo saludable" de estas IA, además de "mantener el orden social y la seguridad nacional"; el aspecto político tiene mucha fuerza en las nuevas reglas.

De hecho, de hacerse realidad, la nueva ley obliga a los desarrolladores a usar datos que se alineen con "valores socialistas" y la "excelente cultura tradicional china", y el origen de los datos debe ser "legal y rastreable".

Concretamente, el texto prohíbe que las IA generen contenidos que "perjudiquen la seguridad nacional, la unidad étnica o los intereses del estado" o que "difundan rumores que alteren el orden económico o social".

Esto puede obligar a los desarrolladores a ofrecer dos versiones diferentes de sus productos de IA, una para el mercado global y otra para el mercado chino que evite problemas con el gobierno.

Sam Altman, consejero delegado de OpenAI, en una conferencia en Tokio el pasado mes de febrero. DPA / Europa Press

Otras medidas se centran en la manera en la que la inteligencia artificial interactúa con el usuario, con el objetivo de protegerlo del mal uso de esta tecnología y evitar malentendidos que puedan llevar a situaciones de alto riesgo para la persona.

Para empezar, los usuarios deben ser informados de que están usando una inteligencia artificial cada vez que inicien sesión en un servicio y cada dos horas de uso, para recordar al usuario que no debe depender de la IA como si fuera una persona real.

De hecho, se prohíben de manera explícita las IA que manipulan el comportamiento del usuario, por ejemplo, usando trampas emocionales, algoritmos manipulativos o desinformación para inducir decisiones en el usuario.

En ningún caso las IA podrán hacerse pasar por humanos, quedando prohibidos los servicios que simulan el comportamiento de personas reales como familiares, como por ejemplo, las IA que se hacen pasar por nuestro hijo.

De la misma manera, los proveedores deberán ser capaces de reconocer el estado de ánimo del usuario, y detectar signos de dependencia y adicción a la inteligencia artificial.

En caso de detectar esos casos de riesgo alto, incluyendo tendencias suicidas, autolesiones o uso compulsivo, la IA deberá mostrar mensajes de calma y alentar al usuario a buscar ayuda profesional.

Además, los servicios deberán tener plantillas de respuesta de emergencia, activando la intervención humana y usar contactos de emergencia en casos graves.

Todas las IA deberán tener obligatoriamente un "modo para menores de edad", que incluya opciones para limitar el tiempo de uso, recordatorios constantes y un panel de control parental.

ChatGPT cambia para siempre tras los escándalos con menores de edad: así son los nuevos controles parentales

El modo para menores debe activarse automáticamente si el sistema detecta que el usuario posiblemente sea menor de edad, permitiendo la reclamación si ha cometido un error.

Por último, el borrador incluye una serie de reglas de uso de datos de los usuarios y evaluaciones de seguridad, que serán realizadas por el CAC con posibles consecuencias como la suspensión del servicio.