Los algoritmos de recomendación de contenido son los grandes pilares sobre los que se sostienen las redes sociales. Aunque la mayoría de los usuarios reniega de ellos, está demostrado que estos algoritmos consiguen que pasen más tiempo en las redes sociales, generando más interacciones y visualizando más publicidad. Facebook ha llegado a donde está gracias en buena parte a sus algoritmos de recomendación.

El problema llega cuando esos algoritmos fallan. Un simple cambio en el código puede tener consecuencias desastrosas, y pasar un pequeño detalle por alto puede crear una auténtica 'bola de nieve' que no deja de crecer. Porque cuando el algoritmo ve que un usuario visita un enlace recomendado, a partir de entonces recomendará más cuentas similares, hasta el punto de que sólo muestre ese tipo de contenido.

Y cuando ese contenido es ilegal e inhumano, la red tiene un serio problema entre manos. Es lo que ha descubierto una investigación publicada por The Wall Street Journal, en colaboración con expertos de la Universidad de Stanford y la Universidad de Masssachusetts. Las conclusiones son demoledoras: Instagram posee una gigantesca red de distribución de contenido sexual con menores, fácil de encontrar y en la que es fácil integrarse.

La vergüenza de Instagram

La presencia de cuentas distribuidoras de contenido basado en pedofilia es, lamentablemente, algo habitual en cualquier red social; la clave está en cómo la propietaria de la red reacciona. La inmensa mayoría de los servicios cuentan con sistemas que escanean todas las publicaciones compartidas en busca de contenido ilegal, con medidas como el bloqueo automático o la limitación de la distribución, llegando incluso a la denuncia ante las autoridades. Sin embargo, algo ha salido muy mal en Instagram, porque en vez de limitar este contenido ilegal, lo está promocionando.

Los investigadores descubrieron que encontrar pedofilia es absurdamente fácil, con términos que hacen mención explícita a esa parafilia. De esa manera, es posible conectar directamente con una variedad de cuentas que ofrecen contenido en base a "menús" con todo tipo de imaginería, a cada cual más perversa.

Que esas cuentas existan en Instagram ya sería malo, el verdadero problema es que Instagram promociona ese tipo de contenido y amplía su alcance. Cuando los investigadores crearon una cuenta desde cero y vieron el contenido compartido por esas cuentas, la app les recomendó más cuentas similares que seguir. Y si el usuario hace eso, muy pronto la app se llena completamente de contenido sexual con niños. Cuando los investigadores intentaron denunciar las cuentas usando las herramientas de la app, comprobaron que eran ignorados o descartados de manera frecuente. En comparación, en Twitter encontraron una menor cantidad de cuentas (menos de un tercio de lo que encontraron en Instagram), y comprobaron que en TikTok ese contenido no parece ser capaz de proliferarse.

Meta ya ha respondido al informe, asegurando que ha establecido un grupo de trabajo interno para atajar los problemas descubiertos por la investigación. La compañía se ha defendido, afirmando que sólo durante el mes de enero cerró casi medio millón de cuentas que violaban su política de seguridad para menores, y que ha eliminado 27 redes de distribución en los dos últimos años. Aún así, confiesa que falló al no actuar sobre las denuncias por el gran volumen de estas, y que está revisando sus procesos internos.

Te puede interesar

• BeReal, la red social anti-Instagram que quiere que te acerques a lo natural
• Cinco alternativas a Twitter: necesarias por lo que viene sucediendo con Elon Musk
• El cofundador de Twitter lanza una nueva red social que es básicamente el Twitter del futuro