El último escándalo de Instagram: estaría mostrando vídeos sexualizados de menores

Un nuevo reportaje asegura que el algoritmo de Instagram estaría recomendando contenido sexualizado de menores y adultos.

28 noviembre, 2023 10:38

Marta Sanz

Instagram, una de las redes sociales de Mark Zuckerberg, vuelve a enfrentarse a duras críticas por el contenido que recomienda relacionado con menores en su plataforma. Mientras Elon Musk se defiende de las acusaciones de antisemitismo en X (antes Twitter), en Meta están perdiendo anunciantes por un nuevo estudio que indica que su algoritmo muestra contenidos sexualizados donde aparecen menores y junto a anuncios de importantes empresas como Disney o la app de citas Bumble entre otros.

El periódico The Wall Street Journal ha publicado un extenso reportaje donde detalla cómo el algoritmo recomendaría vídeos sexualizados de menores y adultos a cuentas vinculadas con adolescentes. Los videos Reels que insinúan una temática sexual irían acompañados de publicidad para anunciar apps de citas o medicamentos contra la disfunción eréctil. En un momento en el que la empresa está desplegando nuevas funciones para mejorar la seguridad de su plataforma.

Instagram creó los Reels como respuesta a la popularidad de TikTok y sus vídeos verticales cortos. La app busca ofrecer contenido relacionado con los intereses de cada usuario para que la persona permanezca más tiempo dentro de la red social. Así, el algoritmo de la compañía analiza los gustos del usuario y replica cientos o miles de vídeos uno detrás de otro que tengan relación con esos gustos. Sin embargo, esta tecnología estaría fallando a la hora de frenar la difusión de vídeos peligrosos o tóxicos, como muestra la reciente prueba realizada por el WSJ.

Los resultados

Los periodistas Jeff Horwitz y Katherine Blunt que firman este trabajo observaron que las cuentas de adolescentes con miles de seguidores en Instagram reunían un gran número de cuentas de hombres adultos. Muchos de estos perfiles habían demostrado, también, interés por contenido sexualizado en los que salían menores y adultos.

Las pruebas posteriores del medio buscaban determinar qué contenido ofrecería el algoritmo de la red social a una serie de cuentas de prueba que siguieran influencers jóvenes y atletas en la adolescencia y preadolescencia. El Centro Canadiense para la Protección Infantil realizó por separado pruebas similares, con resultados parecidos.

Instagram Omicrono

Seguir solo a las chicas jóvenes hizo que Instagram comenzara a publicar videos de cuentas que promocionaban contenido sexualizado para adultos. Además de desnudez en mujeres de edad indeterminada, el medio indica la aparición de vídeos como el de un hombre acostado en una cama con su brazo alrededor de lo que la leyenda decía que era una niña de 10 años.

El WSJ también puso a prueba las recomendaciones del algoritmo siguiendo con los perfiles falsos a los usuarios sospechosos de pedofilia, lo que produjo contenido más perturbador intercalado con anuncios. La plataforma ofrecía una material de sexualización infantil, como un vídeo de una niña vestida acariciando su torso y otro de un niño haciendo una pantomima de un acto sexual.

Los anunciantes afectados

Las imágenes sexuales aparecían junto con anuncios de marcas importantes, incluidas Match, Bumble, Disney y Walmart. Otros anunciantes eran la empresa Hims, vendedor de medicamentos para la disfunción eréctil, y el propio The Wall Street Journal.

Bumble and Match han retirado sus anuncios de Instagram. Ambas empresas ofrecen aplicaciones de citas o para conocer gente y han decidido suspender sus relaciones publicitarias con la plataforma tras el reportaje. Otros anunciantes como Himes asegura que presionará a la compañía para que corrija esa colocación de los anuncios.

La empresa de Mark Zuckerberg ha dicho que las pruebas de este medio produjeron una experiencia fabricada que no representa lo que ven miles de millones de usuarios. No han explicado por qué se produce este fallo, pero asegura que en los últimos meses han desplegado herramientas para que las marcas controlen más dónde aparecen sus anuncios. También trabajan en medidas para dar mayor protección a los usuarios más jóvenes.

Los periodistas informaron a Meta en agosto sobre los resultados de sus pruebas y, desde entonces algunas anunciantes han estado presionando a Meta para abordar el problema. Sin embargo, a mediados del mes de noviembre, el Centro Canadiense para la Protección Infantil asegura seguir recibiendo recomendaciones con insinuaciones sexuales en sus cuentas de prueba.