Musk rectifica y promete limitar Grok: X anuncia que ni los suscriptores podrán desnudar a gente con su IA

La empresa se ha enfrentado a críticas de medio mundo en las últimas semanas y en respuesta ha anunciado medidas más estrictas, aunque no queda claro si su aplicación ha comenzado. En España todavía es posible obtener desnudos digitales con Grok.

Este miércoles a última hora, la compañía de inteligencia artificial de Elon Musk afirma haber impuesto restricciones en su chatbot. Todos los usuarios se enfrentan ahora a limitaciones para editar imágenes sexualizadas tras la polémica generada.

"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago", ha indicado la compañía en una publicación en X.

Fotomontaje con una de las fotografías modificadas de Grok. Manuel Fernández | Grok Omicrono | X

Sin embargo, medios como The Verge aseguran que todavía se puede conseguir contenido sexual de este chatbot, a pesar de las restricciones aplicadas. Este medio también ha hecho pruebas y con la cuenta gratuita de X es posible seguir obteniendo imágenes de mujeres en bikini. En pocos minutos y con sencillas indicaciones, el chatbot genera la imagen de una mujer en bikini.

Este servicio permite convertir imágenes de cualquier persona en versiones con poca ropa. A raíz de esta libertad de uso se han generado imágenes hiperrealistas de mujeres con bikinis microscópicos, poses degradantes, incluso cubiertas con moratones que se compartían por la red social en el último mes. En algunos casos se trataba de menores desnudadas digitalmente.

Captura de la aplicación de Grok generando imágenes con poca ropa Omicrono Omicrono

La respuesta inmediata de la empresa a las críticas fue limitar esta posibilidad solo a los suscriptores de pago. El chatbot seguía produciendo imágenes de contenido sexual para esta comunidad más privada, en teoría identificada por el programa de suscripción, pero sin el consentimiento de muchas de las personas que aparecían en las redes sociales.

Finalmente, este miércoles la empresa asegura que ningún usuario podrá generar imágenes de personas con poca ropa. "Además, la creación y edición de imágenes a través de la cuenta de Grok en la plataforma X ahora solo está disponible para suscriptores de pago.", indican. Asegura que esta medida ayuda a garantizar que quienes intenten abusar de la cuenta sean responsables.

La red social se basará en la ubicación de la persona y tendrá en cuenta aquellos países donde esta actividad es ilegal. Sin embargo, no ha dado detalles de cómo aplica las jurisdicciones de cada país.

Esta medida llega justo después de que el gobernador y el fiscal general de California dijeron el miércoles que exigían respuestas a xAI después de que Musk dijera que no tenía conocimiento de ninguna "imagen de menores desnudos" generada por Grok. El magnate llegó a burlarse de la controversia, para después rectificar y asegurar que se toma muy en serio las denuncias de material de abuso sexual infantil.

Nueva polémica con Grok: la IA de Elon Musk genera vídeos de Taylor Swift desnuda con su nueva función "picante"

"Exigimos respuestas inmediatas de xAI sobre su plan para detener la creación y difusión de este contenido", escribió el fiscal general de California, Rob Bonta, en la misma red social comprada por Elon Musk. El gobernador Gavin Newsom instó a Bonta a "investigar de inmediato a la empresa y exigir responsabilidades a xAI".

Las peticiones por tomar medidas contra la empresa se han sucedido en todo el mundo, desde Estados Unidos, pasando por Europa. Grupos de defensa han pedido a Apple y Google eliminar Grok de sus tiendas de aplicaciones. Indonesia sí ha llegado a tomar medidas, bloqueando temporalmente el acceso a Grok.