Aunque en ocasiones sean divertidos, los deepfakes o vídeos hechos con IA se están convirtiendo en una lacra en España. Ya sea por venganza o incluso para solucionar casos de asesinato, estos metrajes acaban teniendo usos como mínimo, ilícitos. Microsoft quiere que los detectes.
El estudio titulado How good are humans at detecting AI-generated images y que tiene en su haber investigadores del Microsoft AI for Good Lab ha desarrollado una herramienta a modo de 'juego', que permite ver hasta 15 imágenes y determinar cuáles son reales y cuáles son falsas.
Real or Not es una herramienta que a fecha de escrito este artículo sigue en activo, y propone un juego 'sencillo' al internauta: ver hasta 15 imágenes y calificarlas como reales o falsas. Solo poco más del 60% han acertado a la hora de detectar fotos hechas con IA.
Averigua si esta imagen es IA o no
La herramienta es tremendamente sencilla. Se muestra un carrusel con fotografías de distinta índole, con dos botones: real o no. El estudio de Microsoft contempla cómo aglutinaron participantes para usar este quiz y analizar sus resultados.
En total, el estudio reunió a más de 12.500 participantes a nivel global, que analizaron nada menos que 287.000 fotogramas, resultando en más de 17.300 partidas con éxito. Entre los datos había 300 imágenes reales y 700 falsas, creadas con IA.
'Real or Not' de Microsoft.
Para añadir más peso al artículo, se crearon estas imágenes con un buen abanico de modelos de IA especializados en este fin, como serían Stable Diffusion, Amazon Titan V1 o Midjourney. Lo que vieron los investigadores fue cuanto menos, preocupante.
El ratio de éxito de los participantes en imágenes reales apenas rozó el 60%, con un 59% total que contrastaba enormemente con la detección de imágenes con IA. En este sentido, el 63% de los usuarios pudo averiguar cuáles eran falsas.
Es decir, se pueden ver dos lecturas básicas. La primera que poco más de la mitad pudo realmente averiguar cuáles imágenes eran reales, y que cerca del 40% no pudo detectar cuáles eran IA. Y no; el sistema no está pensado para fastidiar al jugador.
"No seleccionamos imágenes para engañar a la gente", explican desde el estudio. "Solo unas pocas imágenes presentan una tasa de fallos significativa, y la mayoría de las 1.000 imágenes que seleccionamos parecen ser igualmente desafiantes para nuestros usuarios".
Ejemplo de imagen en el quiz.
Las imágenes realistas fueron las que más engañaron a unos usuarios, los cuales tuvieron especiales problemas con fotografías generadas por IA de paisajes y objetos. Según los investigadores, esto tiene que ver con nuestra capacidad para identificar rostros humanos.
Los participantes, aprovechando la capacidad humana para detectar problemas en rostros ajenos, pudieron acertar en la mayoría de imágenes de personas generadas por IA. Además, también nos estamos acostumbrando a 'captar' algunos de los sesgos artísticos más comunes en las imágenes de inteligencias artificiales.
Un detalle interesante es que Microsoft también puso a prueba sus sistemas de detección de IA, y los resultados fueron demoledores para nosotros. Más del 95% de acierto en ambos sentidos, tanto detectando fotos hechas con IA como detectando imágenes reales, con una tasa del 95,4% de éxito.
Una vez acabas el quiz, la web nos recuerda lo difícil que está siendo para los usuarios poder captar estas imágenes falsas, y nos otorga un porcentaje de éxito respecto al resto de jugadores. Una herramienta que pone de manifiesto nuestros problemas a la hora de definir la realidad en Internet.