La polémica de los desnudos en Grok no termina: estaría generando contenido sexual explícito desde la app

Grok, la IA que Elon Musk ha implementado en X, lleva tiempo generando controversia en España, al desnudar a mujeres sin su consentimiento y a un ritmo endiablado.

La cosa está escalando a unos niveles que ni el mismo Musk ha podido prever. Y es que según una investigación de WIRED, Grok también se usa para generar vídeos extremos.

La web y la app de Grok externas a X, dicen desde el portal, se estarían usando para crear imágenes extremadamente gráficas e incluso violentas mucho más explícitas.

El chatbot de X crea contenido extremo

En diciembre, se generó una tendencia entre los usuarios de X que ha llevado a Musk y a los de X a mover ficha. Consistía en desnudar o sexualizar mujeres sin su consentimiento.

Los usuarios pidieron a Grok desnudar o dejar en bikini a mujeres que colgaban sus fotos en la red social. Lo hizo tanto con mujeres adultas como con niñas y adolescentes.

Montaje denunciado por @SamanthaTaghoy SamanthaTaghoy

Esto provocó que el magnate dueño de la plataforma saliera al paso y advirtiera que el contenido de carácter ilegal llevaría a consecuencias legales para los usuarios.

La investigación de WIRED va más allá, ya que a la problemática de X hay que sumarle una función de generación de vídeo mucho más explícita por parte de Grok.

[La IA, sometida a psicoanálisis: ChatGPT, Gemini y Grok 'sufren' ansiedad y comportamientos obsesivo-compulsivos]

La web y la app de Grok incluyen una función de vídeo no pública y externa a X, que se estaría utilizando para producir imágenes explícitas de personas, también sin su permiso.

El problema ya es grave de base, pero el portal ha descubierto que estos vídeos son mucho más gráficos que los presentes en X, en todos los sentidos posibles.

Fotomontaje con una de las fotografías modificadas de Grok. Manuel Fernández | Grok Omicrono | X

Estos sistemas producen imágenes sexuales tremendamente explícitas y en ocasiones violentas. No se ha descartado que también se hayan generado imágenes de menores de edad usando estas herramientas.

La clave está en que la herramienta Imagine no es pública, ya que los vídeos e imágenes generadas no se comparten abiertamente. Pero se pueden rastrear las creaciones de los usuarios.

[El reto de cómo los menores se relacionan con la IA: "Pierden la capacidad de hacer análisis o resumir información"]

Si el usuario comparte una URL de un contenido creado con Grok Imagine, esta puede ser visible. WIRED revisó 1.200 enlaces de Imagine indexados en Google y compartidos en foros.

Los contenidos creados se salían muchísimo de las normas establecidas por X. Además de vídeos explícitamente sexuales, había contenido extremadamente violento y perturbador.

Imagen de Elon Musk junto al logo de su empresa de inteligencia artificial xAI y su producto Grok. DPA / Europa Press

El portal describe vídeos generados con IA de personas teniendo relaciones sexuales cubiertas de sangre y con heridas explícitas en zonas íntimas de sus cuerpos.

Por supuesto, no faltan vídeos de personalidades y famosas realizando actividades sexuales y fantasías de todo tipo que involucran a mujeres conocidas.

[El ambicioso plan de Mark Zuckerberg: añadir más contenido generado por IA a todas sus redes sociales]

Debido a que varios de estos vídeos incluyeron logotipos de plataformas como Netflix y similares, se cree que los usuarios estarían utilizando carteles de series y películas para saltarse las medidas de seguridad de Grok.

El contenido fue revisado por AI Forensics, una organización sin ánimo de lucro (OSAL), que descubrió imágenes y vídeos de este estilo en 800 de las URL archivadas de Grok Imagine.

Ani, el avatar de Grok, la IA de Elon Musk.

Paul Bouchaud, investigador principal de la organización, confirmó que alrededor de un 10% de este contenido podía estar relacionado con menores y contenido sexualizando a menores.

Lo peor es que los usuarios comparten estas creaciones en foros especializados de pornografía, sin ningún tipo de filtro y con secciones dedicadas a ello.

[Elon Musk promete que xAI logrará la inteligencia artificial general en 2026 después de prometerla en 2025]

Por si fuera poco, en estos foros se dan pequeños consejos y tips para saltarse las medidas de seguridad de Grok y crear imágenes brutales sin ningún problema.

Grok, número 1 en España

A tenor de esta noticia, Musk compartió un hecho llamativo, cuanto menos. Un usuario aseguró que Grok había superado a Gemini y ChatGPT en las tiendas de apps, en la sección de productividad.

Grok REUTERS/Dado Ruvic Omicrono

Parece ser que efectivamente, durante unas horas Grok superó a ChatGPT y a Gemini como las apps de productividad más populares en las tiendas de apps.

A fecha de escrito este artículo, Grok se ha posicionado en el segundo lugar en la tienda Google Play Store y el tercero en la App Store, por debajo de ChatGPT y Gemini.