Icono de Instagram

Icono de Instagram Pixabay El Androide Libre

Noticias y novedades

Las apps para desnudar mujeres triunfan en Instagram: este es el truco que usan para saltarse las reglas de la plataforma

Una investigación ha revelado el método usado por creadores de apps de desnudos falsos para saltarse la normativa de Meta.

Más información: Apps que desnudan a cualquier mujer: la peligrosa tendencia en Telegram usada por millones de usuarios

Publicada

Las apps que desnudan a cualquier mujer se han convertido en una lacra en redes sociales y plataformas de contenido, alcanzando una gran popularidad gracias al abuso de anuncios que prometen ser capaces de funcionar con cualquier fotografía o vídeo. La llegada de la IA generativa ha empeorado la situación, con muchas apps usando el nombre de esta tecnología para atraer a más clientes.

En la práctica, estas apps no son 'mágicas', y realmente no son capaces de desnudar a mujeres, sólo 'imaginar' cómo serían desnudas; pero eso poco importa para los usuarios que buscan este tipo de contenido, que usan las imágenes resultantes para disfrute personal o para el acoso y el 'bullying' de las mujeres y niñas menores de edad.

En la actualidad, la mayoría de las grandes plataformas han prohibido las apps que prometen ser capaces de desnudar a personas, aunque siempre hay alguna que se les 'escapa'; pero la mayor culpable en este sentido parece ser Instagram, que cuenta con un agujero en su política que permite que estas apps se promocionen en su plataforma y accedan a cientos de miles de usuarios potenciales.

Así lo ha revelado una investigación de 404Media, que se ha centrado en una de las apps más populares que prometen usar IA para desnudar mujeres; los periodistas descubrieron que los propietarios de la app llevan al menos desde el pasado mes de septiembre comprando anuncios en Instagram, Facebook y otras aplicaciones de Meta, sin ningún tipo de penalización ni castigo. 

De esta manera, los tres dominios web usados por la app alcanzaron 240.000 usuarios combinados, según datos de SimilarWeb, de los cuales el 90% provenían directamente de Facebook o de Instagram; por lo tanto, la plataforma de Meta es la principal fuente de ingresos de los responsables de la app maliciosa, y lo peor es que el gigante de Internet no parece ser capaz de hacer mucho al respecto.

De hecho, los creadores de la app parecen haber encontrado un resquicio en la moderación de Instagram para poder alcanzar a su audiencia pese a ofrecer contenido que vulnera las reglas de la compañía. AI Forensics, una ONG europea centrada en la investigación de algoritmos opacos, realizó una prueba para demostrarlo: publicaron el mismo contenido con desnudos, que vulnera las reglas de Meta, como una publicación de un usuario normal y como un anuncio. 

Para su sorpresa, la publicación fue eliminada rápidamente, pero el anuncio permaneció pese a que se trataba exactamente del mismo contenido; esto demuestra que Meta tiene estándares diferentes para las publicaciones de los usuarios y para los anuncios, y que estos últimos pueden saltarse las reglas siempre y cuando hayan realizado el pago.

Los propietarios de la app que desnuda a mujeres parecen haber descubierto este comportamiento irregular de Meta, y se están aprovechando de ello, publicando miles de anuncios en Instagram y Facebook que redirigen a sus servicios. La mayoría de estos anuncios siguen el mismo patrón, usando fotografías de personalidades famosas, desde creadores de OnlyFans a modelos, todas con su propia cuenta oficial de Instagram. Además, los creadores de la app también han probado a usar Facebook Marketplace, el mercadillo online de Facebook, para promocionar su producto.

Meta ha declarado a través de un representante que sus reglas prohíben anuncios que promueven la explotación sexual, y afirman haber eliminado el contenido denunciado por los periodistas; sin embargo, estos afirman que algunos de los anuncios siguen accesibles en la plataforma. Meta se ha defendido afirmando que los "malos actores están constantemente evolucionando sus tácticas" y que continúa invirtiendo en "las mejores herramientas y tecnología"; al mismo tiempo, la compañía ha anunciado hoy el despido del 5% de su plantilla, y ha puesto fin a su programa de verificación de datos en favor de un modelo de notas creadas por usuarios de la comunidad, poniendo en duda el futuro de su equipo de moderación y las posibles consecuencias en el contenido mostrado a los usuarios.