Según la información original obtenida y contrastada a través del medio especializado Portal Innova el pasado jueves, Google integró su modelo de generación de imágenes, Nano Banana 2, dentro de la popular plataforma Google Earth, permitiendo a cualquier usuario transformar la vista de satélite de cualquier rincón del planeta con una simple orden escrita.
Este viernes, apenas 24 horas después, ha desactivado la función tras comprobar que se estaba utilizando para fabricar imágenes de satélite de acontecimientos que nunca habían ocurrido.
De la recreación histórica a la manipulación visual
Sobre el papel, la propuesta tecnológica despertaba un gran atractivo. Bastaba con navegar hasta un lugar del planeta en la versión web de Google Earth, pulsar un botón de crear imagen y escribir lo que se quisiera ver. El modelo tomaba como base la imagen real de satélite y generaba sobre ella la escena solicitada.
Entre los ejemplos que la propia Google proponía estaban reconstruir Pompeya como la ciudad bulliciosa que era antes de la erupción del Vesubio, convertir la Estatua de la Libertad en una infografía ilustrada o visualizar el edificio que podría levantarse en un solar vacío.
Deepfake desde el cielo
Pero una diferencia importante de esta idea frente a otros generadores de imágenes con inteligencia artificial era el anclaje a imágenes del mundo real, con fotos por satélite, aéreas y modelos tridimensionales de prácticamente todo el planeta.
Ese atractivo terminó siendo su principal problema, ya que permitía crear imágenes bastante realistas de situaciones completamente imaginadas. Un periodista de 404 Media, por ejemplo, consiguió con una sola frase situar un campamento de refugiados junto a la frontera de México y EE. UU., una planta nuclear en Irán y un accidente mortal en una calle de Ámsterdam.
La cadena pública estadounidense NPR generó una imagen del Capitolio de Washington inundado. Ninguna de esas escenas ocurrió, pero todas se apoyaban en la geografía real de un lugar, lo que las hacía considerablemente más creíbles que un montaje convencional.
24 horas después de lanzar la herramienta, Google reconocía en su blog oficial que varias capturas de imágenes generadas violaban sus políticas de uso y anunciaba la retirada de la función para crear sistemas de seguridad más estrictos.
El gran reto pendiente de la industria
El episodio deja en evidencia un problema que la industria de la IA todavía no ha resuelto. La presión por integrar modelos generativos en todos los productos choca con la dificultad de anticipar los usos maliciosos que harán algunos usuarios.
La herramienta generativa de Google Earth tenía filtros. Imponía límites diarios de generación y marcaba el contenido como «experimental», pero ambos eran fáciles de burlar.
Aunque las imágenes también están etiquetadas con una marca de agua invisible que las delata como generadas por IA, es un sistema fácil de esquivar y que rara vez se comprueba cuando una fotografía comienza a circular de forma viral por redes sociales.
Este incidente demuestra que la moderación algorítmica actual es insuficiente ante el potencial disruptivo de la geolocalización sintética. A medida que los modelos predictivos evolucionan, garantizar la integridad visual del territorio digital se convierte en un desafío ético y operativo inaplazable para las grandes tecnológicas mundiales.
