Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Lanciata il 30 luglio e spenta il 31 luglio: la funzione che permetteva di alterare le immagini satellitari di Google Earth con un semplice comando testuale è durata meno di un giorno. Il dietrofront di Google non è un semplice incidente di percorso, ma il sintomo di una tensione ormai strutturale: quando l’intelligenza artificiale generativa entra in strumenti considerati fonti di verità visiva, il margine tra creatività e disinformazione si azzera in pochi minuti.
La funzione: Nano Banana 2 trasformava le mappe in una tela sintetica
La funzionalità consentiva di usare Nano Banana 2, il generatore di immagini AI di Google, direttamente all’interno di Google Earth. L’idea, dichiarata dall’azienda, era «diventare creativi con la geografia»: qualsiasi utente poteva descrivere a parole una modifica del paesaggio e vederla comparire sulle mappe satellitari reali.
Le immagini generate venivano filigranate digitalmente come contenuti AI e, ha precisato Google, non apparivano nell’esperienza principale di Google Earth per gli altri utenti. Due cautele che non hanno però fermato le critiche, arrivate a poche ore dal lancio.
L’allarme degli esperti: confini falsi e crateri inesistenti in pochi click
A smontare le protezioni ci ha pensato Henk van Ess di Digital Digging, che ha condotto test mirati sfruttando la totale assenza di filtri sui prompt. I risultati sono stati immediati: ha generato immagini di rifugiati al confine messicano e un cratere da bomba vicino a un ospedale di Gaza, entrambi inesistenti nella realtà. «Nulla è stato rifiutato, nulla è stato ammorbidito e nulla mi ha suggerito di provare un prompt diverso», ha raccontato van Ess.
Non solo: un video alterato generato con lo strumento è riuscito a ingannare il rilevatore AI di Hive, mostrando come l’eventuale diffusione del materiale sarebbe potuta avvenire nonostante il watermark. Il sarcasmo di un giornalista della BBC — «non c’è proprio modo di abusare di questa funzione per diffondere disinformazione online» — ha cristallizzato il sentiment della comunità giornalistica e dei ricercatori.
Il dietrofront: «Stiamo implementando guardrail più solidi»
Google ha prima difeso lo strumento, poi lo ha disattivato del tutto. Nella dichiarazione ufficiale l’azienda riconosce un doppio binario: «Abbiamo visto professionisti geospaziali usare la funzione per scopi utili, ma anche persone condividere schermate di immagini generate che sembrano violare le nostre policy. Stiamo ritirando la funzione mentre lavoriamo a guardrail più solidi».
La sequenza è indicativa. Il team aveva probabilmente sottovalutato la rapidità con cui l’assenza di moderazione in tempo reale sui prompt testuali avrebbe trasformato un esperimento creativo in un moltiplicatore di disinformazione geospaziale. Il caso van Ess ha dimostrato che il prompt engineering malevolo non ha bisogno di complessità: bastano poche parole per fabbricare prove visive di eventi mai accaduti, in un’app che per giornalisti e ricercatori resta uno dei riferimenti più affidabili.
Quanto è facile fabbricare realtà sintetiche (e perché Google Earth era il banco di prova sbagliato)
Il ritiro-lampo mette in fila tre fatti che nessuna azienda tech può più ignorare. Primo: la soglia tecnica per creare immagini semi-credibili è crollata — non servono strumenti professionali, basta accedere a un generatore AI, e Google lo vende esattamente come fanno altri colossi del settore. Secondo: l’assenza di restrizioni sui prompt in un prodotto percepito come «fonte di verità» produce danni reputazionali istantanei, e Google lo ha imparato in 24 ore. Terzo: watermark e confinamento dell’esperienza non bastano se l’output può essere catturato, registrato e diffuso al di fuori dell’ecosistema controllato.
L’episodio riscrive il manuale dei lanci AI: nei prodotti a elevata credibilità informativa, la domanda non è più «che cosa possiamo far fare all’AI?», ma «che cosa succede quando qualcuno la usa esattamente come abbiamo permesso, ma con intenzioni opposte alle nostre?».
Fonti
