Falsas fotografías sexuales de Taylor Swift inundan X sin que Elon Musk sea capaz de controlarlo

Los deepfakes generados con inteligencia artificial consiguieron más de 45 millones de visitas y cientos de miles de me gustas antes de ser borrados.

26 enero, 2024 13:36

Marta Sanz Romero

Todo lo relacionado con Taylor Swift acaba batiendo récords, para lo bueno y para lo malo. La cantante estadounidense ha sido víctima de la cara más cruda de la inteligencia artificial generativa y las redes sociales. Imágenes de desnudez generadas con IA de la artista ha puesto contra las cuerdas la capacidad de la red social de Elon Musk para hacer cumplir sus propias normas. Algunas de las imágenes publicadas consiguieron más de 45 millones de visitas, 24.000 reenvíos.

La publicación estuvo disponible en la plataforma durante aproximadamente 17 horas antes de su eliminación. Los controles de X, antes Twitter, suspendieron la cuenta con tick azul por haber infringido la normativa de la plataforma al compartir ese contenido. La mayoría del contenido está centrado en la relación de Swift con Travis Kelce, jugador de los Kansas City Chiefs de la NFL.

Según informa el medio 404 Media, las imágenes surgieron de un canal de Telegram que se dedica a generar fotografías falsas de mujeres con una herramienta de Microsoft que genera imágenes a partir de texto. En algunas regiones, el término "Taylor Swift AI" se convirtió en tendencia en X, impulsando al algoritmo a promocionar las imágenes a un público más amplio. La gran comunicad de fans de la cantante critican la lentitud con la que X ha actuado ante este suceso.

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024

Las políticas de X prohíben explícitamente el contenido artificial o manipulado, así como la desnudez no consensuada. No obstante, aparte de borrar las imágenes horas más tarde y bloquear a los responsables de su publicación, la red social solo ha emitido un escueto comentario, un día después, en su propia plataforma recordando sus normas sobre desnudez y sin hacer ninguna referencia expresa a Taylor Swift.

Ni la red social ni Taylor Swift han respondido al respecto, preguntados por The Verge. Pero el periódico Daily Mail ha hablado con una fuente anónima de su entorno que afirma que Swift está furiosa y estudia emprender acciones legalescontra quienes las crearon y difundieron.

[El negocio de desnudar por IA. ¿Cómo proteger a las mujeres víctimas del 'deepfake'?]

Sus seguidores, grandes defensores de la artista, han denundiado y señalado a las cuentas implicadas en este suceso, así como han tratado de minimizar el impacto de la campaña ilegal generada por IA, inundando los hashtags relacionados con vídeos de Swift actuando. La cantante ha sido elegida persona del año de 2023 por la revista Time y agota todas las entradas cada vez que anuncia un nuevo concierto para su gira The Eras Tour donde repasa sus 15 años en la industria de la música.

Este uso de la IA para generar deepfakes es uno de los riesgos que más preocupan a reguladores y voces relacionadas con el desarrollo de la tecnología. Está presente desde hace años en campañas electorales, pero ahora se usa la IA incluso en favor del candidato con chatbots y voces que imitan al político en llamadas a posibles votantes.

Esta preocupación se une a la dificultad que tiene las redes sociales e internet a la hora de controlar los contenidos falsos y peligrosos. La Unión Europea exigió a X en 2023 una respuesta más rápida contra la desinformación ante la escalada de imágenes y fake news sobre la guerra entre Israel y Hamas.