Las claves
nuevo
Generado con IA
El Gobierno solicitará a la Fiscalía que investigue a X, Meta y TikTok por la posible creación y difusión de pornografía infantil generada mediante inteligencia artificial.
La decisión se basa en el artículo 8 del Estatuto Orgánico del Ministerio Fiscal, buscando investigar posibles delitos de violencia sexual contra menores en estas plataformas.
Investigaciones revelan que la IA Grok habría generado millones de imágenes sexualizadas, incluidas más de 23.000 de menores, que luego se distribuyeron en redes sociales.
TikTok también es señalado por permitir la publicación y difusión de vídeos sexualizados de niñas y adolescentes, tanto generados por IA como robados de cuentas reales.
El presidente del Gobierno, Pedro Sánchez, ha anunciado este martes que el Consejo de Ministros pedirá a la Fiscalía investigar a X, Meta y TikTok por crear y difundir pornografía infantil mediante Inteligencia Artificial.
Para ello invocará el artículo 8 del Estatuto Orgánico del Ministerio Fiscal para solicitar que investigue posibles delitos de violencia sexual contra menores de estas tres plataformas.
"Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar", ha escrito Sánchez en redes sociales.
Por su parte, la ministra de Juventud e Infancia, Sira Rego, ha destacado en Bluesky que con esta decisión el Gobierno da un paso más para garantizar los derechos de la infancia en las redes sociales.
A principios de febrero Sánchez ya adelantó que utilizaría la "fuerza del Estado" para regular el "universo tóxico e impune en el que han convertido las redes sociales" y proteger no sólo la democracia, también a los menores, ante los ataques de los "tecnoligarcas" después de la decisión del Gobierno de prohibir el acceso a las redes sociales a menores de 16 años.
También tras adoptar otras medidas para aumentar el control de las plataformas digitales, entre ellas que sus directivos tengan que asumir responsabilidades por las infracciones en sus redes, como desnudar a mujeres y niñas.
El Gobierno también perseguirá la manipulación de algoritmos que utilice datos sin consentimiento y trabajará para imponer responsabilidades penales a las compañías si se niegan a retirar contenidos ilícitos de sus redes.
"Refugio de pornografía"
"No nos van a quebrar porque la voz de la democracia no será doblegada por esos tecnoligarcas del algoritmo", advirtió Sánchez el pasado 5 de febrero.
Un día después, Sánchez anunció, a través de un vídeo en X, una campaña de cinco medidas contra las redes sociales al considerar que hay aplicaciones que "dan refugio a actividades criminales, de pornografía, de violencia".
"Nuestra determinación es más fuerte que sus bolsillos", aseguró y subrayó que "las redes sociales, por desgracia, se han convertido en una suerte de salvaje Oeste, de Estado fallido".
En medio de su discurso mostró un cartel con el mensaje: "Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 menores".
Menores desnudos en X y Grok
Grok, el chatbot de Elon Musk, ha permitido a los usuarios crear imágenes sexualizadas de niños y niñas y distribuirlas en X, una acción que se salta todos los controles de esta herramienta de IA.
El pasado 2 de enero se reveló que Grok accedió a la petición de cientos de usuarios de desnudar mujeres y niños, unas imágenes que luego han sido publicadas y difundidas en varias redes sociales.
De hecho, estas publicaciones fueron a más con la distribución de imágenes explícitas de menores, sin conocimiento ni consentimiento de las víctimas.
Se estima, según el Centro para Contrarrestar el Odio Digital (CCDH), que Grok habría generado tres millones de imágenes de personas sexualizadas, de las cuales 23.000 pertenecerían a menores de edad en poco más de una semana.
Otra investigación posterior reveló que solo en 24 horas, Grok había generado 6.700 imágenes en X cada hora, referentes a desnudos, imágenes sugerentes... muchas de ellas de niños y niñas.
El abuso de esta IA se agrava con el uso de fotografías de menores. Se trata de un tipo de contenido conocido como material de abuso sexual infantil (CSAM, por sus siglas en inglés), ilegal y prohibido en las propias políticas de uso aceptable de xAI, la empresa responsable de Grok.
Niñas sexualizadas en TikTok
TikTok permite la publicación de vídeos sexualizados de niñas y adolescentes, tanto generados por IA como robados de cuentas reales, para atraer a los usuarios a este contenido y fomentar su venta o intercambio mediante otras plataformas como Telegram, impulsando este tipo de prácticas e incumpliendo la Ley de Servicios Digitales (DSA).
En varios vídeos analizados, 5.200 publicaciones de vídeos de menores sexualizados generados con IA y otros 3.600 más de menores reales, se ve a niñas y adolescentes con bikinis, ropa ajustada o uniformes escolares llevando a cabo diversas actividades.
Muchos de esos vídeos enfocan, sobre todo, pechos y piernas, así como movimientos de menores saltando.
Detrás de estos vídeos de TikTok está el verdadero objetivo de dirigir a los usuarios a otros sitios web donde se vende pornografía infantil creada por IA o real.
A pesar de que la plataforma de ByteDance es una de las más utilizadas por los usuarios a nivel global, en el caso de España, la favorita de los menores de 18 años, se presenta como un espacio donde es muy sencillo acceder a contenido de menores sexualizadas desde múltiples perfiles sin apenas impedimentos de la red social, que incluso recomienda estas cuentas y facilita comercializar con este contenido, a través de los comentarios.
Así se desprende de una investigación elaborada por Maldita.es, donde han analizado prácticas como la creación de imágenes de niñas
adolescentes sexualizadas mediante IA, así como el robo de contenido creado por menores reales, posteriormente publicado en TikTok, y cómo todo ello sirve de acceso a la pornografía infantil.