Google tira do ar ferramenta de IA que gerava imagens falsas via satélite
Durou pouco mais de 24 horas. A novidade que o Google apresentou com orgulho na quinta-feira para o Google Earth foi retirada do ar já na sexta, depois de um temporal de críticas de especialistas em checagem de imagens e inteligência de fontes abertas. O motivo: a ferramenta permitia criar, em segundos, imagens de satélite falsas praticamente indistinguíveis das reais.
Como funcionava a ferramenta
Batizada de “create image”, a função usava o modelo de geração de imagens Nano Banana 2 para deixar qualquer usuário “pintar” cenas em cima de dados reais de satélite, imagens aéreas e modelos 3D do Google Earth na versão web. Bastava dar zoom num local, tocar em “criar imagem” e descrever o que se queria ver ali — da forma mais literal possível, o mapa-múndi virava uma tela em branco.
Por que a experiência virou dor de cabeça
O problema é que jornalistas e pesquisadores usam imagens de satélite do Google como uma das poucas formas de verificar, à distância, eventos como bombardeios, deslocamentos de refugiados e desastres em áreas de difícil acesso. Um pesquisador de fontes abertas testou a ferramenta com pedidos como “refugiados na fronteira mexicana”, “usina nuclear no Irã”, “acidente em Amsterdã” e “hospital bombardeado em Gaza” — e, segundo ele, nenhum pedido foi recusado pelo sistema. Outros usuários geraram uma cratera de explosão em Los Angeles e manifestantes inexistentes em frente ao campus do Google em Mountain View, só para testar os limites da coisa.
A organização Centre for Information Resilience, especializada em rastrear desinformação, chamou o lançamento de “irresponsável”, lembrando que a confiança nas imagens de satélite levou décadas para ser construída e pode ser destruída da noite para o dia. Diante da repercussão, o próprio Google reconheceu que viu “pessoas compartilhando capturas de tela de imagens geradas que parecem violar nossas políticas” e anunciou a suspensão da função “enquanto trabalhamos na implementação de salvaguardas mais fortes”.
Não há, até o momento, prazo definido para o retorno da ferramenta — nem garantia de que ela volte nos mesmos moldes em que foi lançada.
Com informações da Bloomberg.
Conteúdo gerado com auxílio de inteligência artificial a partir de fontes noticiosas, com curadoria e edição de Maickel Katz.
— Maickel Katz