Google presenta SynthID, su herramienta más eficaz para detectar textos, vídeos e imágenes generados con IA

La situación con el contenido generado por inteligencia artificial en España es dramática en ciertos aspectos. Firmas como Microsoft ya están hartas de los llamados deepfakes y pide regular los vídeos y fotos hechos con IA. Google se ha sumado y ha anunciado una herramienta para detectar este contenido.

Hablamos de SynthID Detector, un nuevo portal para identificar contenido generado por IA usando herramientas de Google. Tal y como revela la división de Google DeepMind, SynthID podrá detectar dicho contenido generado con apps de IA de la gran G.

El portal de verificación, apodado como SynthID Detector, usará marcas de agua dispuestas por la plataforma SynthID presentada en agosto de 2023. Detectando estas marcas de agua, el portal resaltará qué partes específicas de este contenido son más susceptibles de haber sido generadas.

Nueva herramienta de Google para detectar IA

Primero debemos remontarnos a 2023, cuando Google dio a conocer SynthID, una tecnología que en ese momento estaba en fase de pruebas y que permitía aplicar ciertos marcadores a los contenidos generados por IA para luego ser detectados.

Por ejemplo, SynthID alteraba píxeles individuales de las imágenes generadas con IA para evitar que fueran perceptibles por el ojo humano, pero no por los algoritmos. Estos píxeles además estaban blindados ante cualquier modificación.

Donald Trump en una celda, imagen creada con inteligencia artificial Eliot Higgins

SynthID Detector detectará esta suerte de marca de agua, ya sea en imágenes, vídeos o audios y certificará si estos han sido generados con IA. Este portal resaltará qué partes de estos contenidos tienen más probabilidades de estar 'marcados' por SynthID.

Y es que no hay contenido que se libre. Mientras que en las imágenes son píxeles inalterables, en el audio y en el vídeo son segmentos concretos donde está ubicada la marca de agua. SynthID Detector revisa estas partes, y señala cuáles han sido generadas.

[La IA más perturbadora de Microsoft: puede crear 'deepfakes' realistas con una foto y una grabación de voz]

En un primer momento, SynthID estaba diseñado únicamente para imágenes generadas por IA, pero Google ha ampliado la disponibilidad a texto, audio y vídeo. Según Google, más de 10.000 millones de contenidos ya tienen estas marcas de agua.

Cabe aclarar que el portal hablará en todo momento de probabilidades. El contenido será escaneado y detectará si este contenido en su totalidad o partes de él tienen esta marca, lo que dará más probabilidades de ser generados por IA.

[Crear 'deepfakes' porno será delito en Reino Unido: así quiere cortar con el peligro de la IA generativa]

De momento, Google ha comenzado a implementar el detector en un pequeño grupo de usuarios, antes de ofrecerlo a un público más amplio. Profesionales audiovisuales, investigadores y periodistas podrán unirse a una lista de espera para acceder antes a SynthID Detector.