Google e il caso della funzione IA di Earth: quando la fretta è cattiva consigliera

Shutterstock

Google ha lanciato un nuovo strumento per generare immagini tramite intelligenza artificiale e sovrapporle direttamente alle mappe satellitari di Google Earth.

O meglio, lo aveva lanciato. Di recente Big G ha deciso di sospendere la funzione senza concederle neanche un giorno di vita.

Il motivo? Per via dei rischi legati ai deepfake. E per i rischi a loro connessi. Per fortuna il problema si è risolto, anche se non è la prima volta che Mountain View ha un abbaglio.

• La storia della funzione IA di Google Earth vissuta solo 24 ore
• Il problema di Google: la fretta di rilasciare troppe novità
• L'annoso problema dei deepfake

La storia della funzione IA di Google Earth vissuta solo 24 ore

Piccolo recap. Era il 30 luglio quando il colosso di Mountain View ha rilasciato per Google Earth un’opzione che, sfruttando Nano Banana 2 (il generatore di immagini integrato in Gemini), permetteva di produrre contenuti da un semplice prompt e sovrapporli a un punto reale della mappa.

Una funzione pensata per essere comoda per tutti, tanto che Google nel suo annuncio ne aveva elencato diversi casi d’uso: dagli insegnanti desiderosi di mostrare alle classi un determinato contesto storico, agli addetti ai lavori intenti a creare infografiche per far conoscere un luogo restando dentro la piattaforma.

Eppure, a meno di ventiquattr’ore dal debutto, in rete si è scatenato il caos. 

Alcuni utenti, i cui esperimenti sono stati ripresi da testate come Futurism, hanno generato scenari quali: un cratere di un’esplosione a Los Angeles, un secondo cratere accanto a un ospedale a Gaza, un silo missilistico russo, il Campidoglio statunitense sommerso dall’acqua, manifestanti accampati fuori dal campus di Google a Mountain View.

Più un altro, documentato dal giornalista investigativo Henk van Ess: una centrale nucleare inesistente, posizionata su coordinate geografiche reali in Iran.

Fortunatamente la contromisura è arrivata il giorno dopo, a nemmeno 24 ore dal suo lancio. Il rischio d’altronde è notevole: con una tecnologia così potente (e distruttiva) sarebbe stato facile manipolare gli internauti meno esperti, e diffondere così allarmismo e disinformazione su scala globale.

Il problema di Google: la fretta di rilasciare troppe novità

Ma il problema rimane. Perché non è la prima volta che Big G commetta l’errore di rilasciare nuove funzioni in fretta e furia, senza accorgersi dei vizi intrinseci.

Due anni prima il suo allora generatore di immagini produceva raffigurazioni sbagliate di papi e padri fondatori, con etnie non corrispondenti alla realtà storica. A sua volta, nel 2025, era venuto fuori che Gemini poteva rimuovere watermark da foto reali e creare falsi di celebrità.

Tutti episodi su cui Big G è intervenuto alla stessa maniera: sospendendo, imponendo restrizioni, assumendo personale per il controllo qualità.

Stavolta però, oltre alla sospensione, Google ha voluto fare la nota di chiarimento, che in realtà è più una difesa sulla bontà originaria del progetto. Mountain View ha voluto infatti precisare che la funzione era stata concepita per scopi legittimi nei settori della geografia e della progettazione architettonica, ambiti in cui i professionisti geospaziali la stavano già adoperando in modo sicuro e conforme.

Peccato non si possa dire lo stesso per il resto della rete.

L’annoso problema dei deepfake

Da inizio mese la parola “deepfake” è quasi sempre al centro dell’attenzione. Il che non è un caso: dal 2 agosto sono scattate le nuove regole dell’AI Act, che stabiliscono un obbligo di trasparenza da parte degli utilizzatori dei sistemi IA. Questi devono ora informare gli utenti quando vengono esposti a deepfake, se non vogliono incombere a delle pesanti sanzioni.

Ora più che mai le aziende produttrici di chatbot (come Google con Gemini ma non solo) sono tenute nei confronti dell’utenza europea a impedire che le immagini generate dall’IA si confondano con quelle reali, dal momento che oggi la stessa tecnologia ha raggiunto livelli notevoli di fotorealismo.

Perché, come già detto sopra, il rischio geopolitico sarebbe notevolmente alto, soprattutto negli scenari di guerra dove le immagini satellitari sono centrali nella ricerca investigativa, giornalistica e anche spionistica. Parliamo di immagini che fino ad oggi erano estremamente difficili da manipolare, grazie al fatto di provenire da sensori controllati da operatori professionali.

Appunto, fino ad oggi. Se Google non avesse ritirato la funzione, avrebbe potuto essere sfruttata anche da malintenzionati per creare bombardamenti o disastri mai successi (o viceversa per coprire quelli realmente accaduti), inasprendo ancora di più le crisi internazionali correnti.