Las fotos falsas generadas por IA o "deepfakesestán empezando a ser un problema para algunas redes sociales. El ejemplo lo acabamos de comprobar con Facebook, la red social de Mark Zuckerberg que se ha visto ciertamente invadida por estos perfiles. La red se ha visto obligada a borrar perfiles que usan este tipo de fotos que, obviamente, son falsos.

Noticias relacionadas

Esta red de casi 1.000 cuentas tanto de Instagram como de Facebook han estado extendiendo la narrativa de Trump a un público potencial de 55 millones de usuarios. La red usaba cuentas falsas, ampliación de visibilidad mediante métodos fraudulentos y más importante aún, perfiles con fotos falsas generadas por IA que favorecían usualmente el ideario de la derecha estadounidense.

Este es un nuevo indicio de los problemas a los que se enfrenta la sociedad de hoy en día en lo que a información compartida se refiere. Se postula como el primer despliegue a gran escala de "deepfakes" en una red social con el propósito de desinformar, por lo que podríamos estar ante una nueva tónica general.

"Deepfakes" en Facebook: las primeras fotos falsas generadas con IA llegan a gran escala

Graphika

La investigación de grupos dedicados a destapar desinformaciones alrededor de las redes sociales como Graphika o DFRLab concluyó que esta era la primera vez que se usaba la tecnología deepfake para apoyar una campaña de desinformación a gran escala en una red social. Recordemos que hablamos de unas 900 cuentas en Instagram y Facebook.

Estas imágenes falsas sirvieron para dar autenticidad a alrededor de 610 cuentas de Facebook, 156 grupos, 89 páginas y 72 cuentas de Instagram asociadas al medio "The BL". Este, según la investigación de Facebook, estaba vinculado a "The Epoch Times", una asociación de medios conservadora con un discurso pro-Trump agresivo. Esta red fue operada desde Vietnam y Estados Unidos.

Las cuentas servían otro propósito: el desviar tráfico de usuarios a sus propias páginas web evitando la detección de falsos usuarios que Facebook y otras muchas redes tienen en su haber. La gran mayoría de cuentas que Facebook ha eliminado hacía de apoyo para al menos 80 páginas y grupos que promocionaban a Trump.

Graphika

Este tipo de imágenes que engrosaban los perfiles de las cuentas falsas se crearon usando redes neuronales entrenadas con imágenes de rostros humanos reales para crear estas fotografías. La red BL usó, según las investigaciones de Graphika y DFRLab al menos unas 18 imágenes creadas usando este tipo de redes neuronales. Como podemos ver en las imágenes, existen fallos característicos de generación de imágenes por IA como imperfecciones o deformidades que prueban su falsedad.

Sin embargo, estos errores son fácilmente distinguibles si se realiza un escrutinio elaborado de las fotografías. En caso contrario, estas imágenes pueden perfectamente pasar por reales, confundiendo a montones de usuarios y sirviendo para difundir este tipo de mensajes políticos. Y todo apunta a que esta primera limpieza no será la única.

Via | Wired