Google retiró su nueva función de Google Earth que permitía generar imágenes satelitales completamente falsas con inteligencia artificial con solo un clic, apenas un día después de su lanzamiento, luego de que investigadores y periodistas alertaran sobre el riesgo de que la herramienta facilitara la creación de deepfakes.
“Las oportunidades de abuso son literalmente ilimitadas”
“Hemos visto a profesionales de geoespacial usando esta función para una variedad de propósitos útiles. Sin embargo, también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Por eso estamos retirando esta función de Google Earth mientras trabajamos en implementar mejores salvaguardas”, declaró la compañía en un comunicado publicado en X. El investigador de fuentes abiertas Henk van Ess, quien primero advirtió sobre el potencial daño de la herramienta, señaló que “las oportunidades de abuso y desinformación son literalmente ilimitadas”.
Un golpe a una de las últimas herramientas confiables
La función, anunciada apenas un día antes por el gerente de producto Bryan Horowitz, permitía a cualquier usuario acercarse a un lugar en Google Earth y generar imágenes de lo que quisiera imaginar. Reporteros de NPR lograron generar fácilmente imágenes falsas de un incendio en la isla iraní de Kharg y una inundación masiva alrededor del Capitolio de Estados Unidos.
Jake Godin, investigador senior de Bellingcat, explicó que las imágenes satelitales han sido tradicionalmente una herramienta confiable para verificar eventos, ya que son difíciles de falsificar, y advirtió que combinar esa capacidad con generación de imágenes por IA “va a hacer que la desinformación prolifere más”. Google aseguró que todas las imágenes generadas incluyen la marca de agua SynthID, que permite identificarlas como contenido generado por IA en otras herramientas de la compañía como Gemini.