Jornalista criou usina nuclear falsa no Irã com IA do Google Earth

O Google Earth passou duas décadas se consolidando como a referência visual padrão para quem tenta verificar como o mundo físico realmente se parece. Jornalistas o usam para documentar zonas de conflito. Pesquisadores de direitos humanos o usam para rastrear instalações de detenção. Inspetores da ONU o consultam a partir da segurança de um escritório. O Google, brevemente, deu a ele algo novo: um gerador de imagens por IA conectado diretamente ao mapa de satélite.

A ferramenta, construída sobre o Nano Banana 2, o modelo próprio de geração de imagens do Google, funcionou como anunciado. Os usuários digitavam um prompt de texto — “mostre Pompéia antes da erupção” ou “transforme esta costa em um infográfico” — e a IA sobrepunha imagens geradas nas coordenadas geográficas correspondentes. Casos de uso legítimos eram fáceis de imaginar. Os perigosos se mostraram igualmente fáceis de executar.

Henk van Ess, jornalista investigativo, foi um dos primeiros a documentar o problema. Em poucas horas após o lançamento, ele gerou uma usina nuclear fictícia sobre uma localização no Irã. O resultado foi convincente o suficiente para ilustrar o risco. Mais preocupante foi o que aconteceu quando ele testou a salvaguarda embutida: o Google havia inserido marcas d’água SynthID — a camada de autenticação de IA da empresa — em cada imagem gerada. Van Ess a burlou ao fotografar a tela em vez de fazer uma captura de tela. Ferramentas de detecção de IA de terceiros classificaram a imagem resultante como tendo apenas 1% de chance de ter sido gerada por IA.

A defesa do Google foi tecnicamente precisa, mas praticamente inadequada. A empresa observou que as imagens geradas “não apareciam na experiência principal do Google Earth para que outros vissem” — elas eram específicas da sessão, visíveis apenas para o criador. Essa distinção se desfaz quando você fotografa a tela e compartilha o resultado. Uma imagem de satélite fabricada de uma instalação sensível, circulando apenas com uma legenda, é indistinguível de uma criada para enganar.

Há uma tensão estrutural aqui que barreiras de proteção mais fortes podem não resolver totalmente. A mesma capacidade que torna a geração de imagens por IA útil também a torna perigosa quando a fonte subjacente são dados de satélite confiáveis. Essa confiança depende da suposição de que o que o Google Earth mostra reflete a realidade física. No momento em que o conteúdo gerado pode ser sobreposto a coordenadas reais — e a camada de autenticação derrotada por uma câmera — essa suposição sofre uma rachadura que não se fecha quando o recurso é desativado.

O recurso foi removido em 31 de julho, menos de 24 horas após o lançamento. O Google reconheceu ter visto “capturas de tela de imagens geradas que parecem violar nossas políticas” e se comprometeu a implementar “barreiras de proteção mais fortes” antes de qualquer relançamento. Nenhum cronograma foi divulgado. O momento acrescenta mais uma camada: a partir de 2 de agosto, as disposições totais de execução do EU AI Act estão em vigor em toda a Europa, tornando obrigatória a rotulagem de conteúdo gerado por IA que possa enganar os usuários — incluindo, precisamente, imagens sintéticas inseridas em fontes de informação confiáveis.

Tags: Google, ia, deepfakes, Google Earth, imagens de satélite, desinformação