Sevilla convertida en Manhattan Omicrono
Google Earth se ha llenado de imágenes falsas en un día: esta es la razón por la que la compañía tuvo que apagar la IA
Google ha desactivado la integración de su IA en Google Earth tras 24 horas, porque se han creado imágenes falsas de guerras, catástrofes y accidentes.
Más información: Nano Banana, la edición de imágenes con IA de Google, llega a Photoshop en España: es un giro histórico de Adobe
Durante 20 años, Google Earth ha sido una de las herramientas más utilizadas por periodistas, gobiernos e investigadores para verificar hechos y desmentir bulos. Esa reputación se tambaleó durante 24 horas a partir del jueves pasado.
Todo comenzó con una instrucción de seis palabras: escribe lo que quieras ver. Esa frase permitió a miles de millones de usuarios de Google Earth en todo el mundo utilizar una nueva función de inteligencia artificial para generar imágenes aéreas. El problema es que algunas eran completamente falsas.
No era, desde luego, la intención de la compañía. Google quería que sus imágenes por satélite sirvieran para dar rienda suelta a la imaginación de los usuarios, como visualizar el aspecto de un solar vacío o imaginar cómo lucía un barrio hace cien años.
Sin embargo, la función terminó siendo utilizada por investigadores de fuentes abiertas, periodistas y curiosos para demostrar con qué facilidad se podían generar imágenes muy realistas de centrales nucleares, campos de refugiados en cualquier frontera, bosques calcinados, ciudades inundadas e incluso accidentes de tráfico mortales.
Lo que se prometía como una experiencia creativa se convirtió en un problema para Google. Al día siguiente de presentar la función, la empresa anunció que la desactivaba.
La compañía explicó en un comunicado que había detectado usos legítimos por parte de profesionales de la geolocalización. Pero también reconoció que se habían compartido capturas de pantalla de imágenes generadas que incumplían sus políticas.
Google había animado a los usuarios a escribir instrucciones para revivir la historia, como una recreación de la antigua Pompeya. También sugería dar un cambio de aspecto a lugares reales, como transformar su campus de Mountain View en una utopía de ciencia ficción.
![Imagen falsa de un hospital bombardeado](["https:\/\/s3.elespanol.com\/k\/imgp\/cms\/elespanol\/11328675.jpg?p=c:891:1112:nowe:0:0\/w:1706\/h:2129&h=bNforKvW"])
Imagen falsa de un hospital bombardeado Omicrono
El funcionamiento era muy sencillo. Cualquiera podía hacer zoom sobre unas coordenadas concretas, pulsar en crear imagen y escribir lo que quería ver, alterando así la vista satelital de ese punto exacto del planeta.
La herramienta de inteligencia artificial generaba entonces una imagen fotorrealista utilizando como base las imágenes reales de satélite, aéreas y en tres dimensiones de Google. El resultado se integraba con tal precisión que resultaba casi imposible distinguirlo de una fotografía auténtica.
La función fue puesta a prueba de inmediato, y los usuarios descubrieron rápidamente que no existían filtros que impidieran la creación de contenido dañino. Entre los primeros en probarla estuvo Henk van Ess, investigador de fuentes abiertas, que creó una central nuclear en Irán, un hospital bombardeado en Gaza y un accidente mortal en Ámsterdam.
La cadena estadounidense NPR generó imágenes de un Capitolio inundado y de incendios en una terminal petrolera estratégica de Irán. Muchos otros usuarios se sumaron al experimento, y un proceso que antes requería horas de trabajo para falsificar una imagen satelital se redujo a una sola frase escrita en un cuadro de texto.
Recreación de los Alcázares de Sevilla en el pasado Omicrono
Como señalaron Van Ess y otros investigadores, las imágenes falsas ganan credibilidad instantánea precisamente porque Google Earth se considera una referencia universal de verdad. Las imágenes generadas coincidían con la iluminación, los ángulos y los colores de las fotografías reales, de modo que las falsificaciones quedaban perfectamente camufladas.
Google aseguró que cada imagen generada por inteligencia artificial incluía una marca de agua digital para identificarla como tal. Aun así, una simple captura de pantalla bastaba para que algunas imágenes escaparan a las herramientas de detección automática, algo que la propia compañía admitió que violaba sus normas de uso.
La empresa insistió en que las imágenes generadas no llegaron a aparecer en la experiencia principal de Google Earth para el resto de usuarios. Subrayó además que todas ellas quedaron marcadas como contenido creado por inteligencia artificial, consciente de la confianza única que deposita el público en esta herramienta.
