Giovedì chiunque poteva far comparire un aereo mentre si schiantava contro un grattacielo di Manhattan, oppure creare un cratere accanto al Washington Monument. Bastava scrivere cosa si voleva vedere e l’immagine si sovrapponeva alle coordinate reali, con il realismo di una ripresa dall’orbita. Sono arrivati anche un impianto nucleare in Iran, un bombardamento a Mosca, la piazza dello Zócalo di Città del Messico gremita di manifestanti.
Google aveva appena attivato dentro Google Earth una funzione di generazione immagini con l’IA. Entro venerdì pomeriggio l’aveva già spenta.
Toccata a fuga
Nel comunicato con cui annunciava la ritirata, l’azienda ha scritto una frase che vale più di molte parole: “sappiamo che le persone si fidano in modo unico di Google Earth per una visione affidabile del mondo”. Lo ha ammesso mentre disattivava la funzione che smontava proprio quella fiducia.
Google aveva presentato lo strumento come un gioco creativo: “visualizzare la storia, creare piani immobiliari e altro”. Si zoomava su un punto, si toccava “crea immagine” e si scriveva quello che si vuole vedere.
Il motore era Nano Banana 2, la stessa tecnologia di generazione immagini che, come abbiamo raccontato, Google ha spinto negli ultimi mesi dentro Gemini e nel fotoritocco. La logica di prodotto è sempre quella: piazzare l’IA generativa sul maggior numero di superfici possibile e aumentarne l’uso per dimostrare che sull’intelligenza artificiale comanda il colosso di Mountain View.
Il problema è che Google Earth funziona in modo opposto a una tela creativa: vale nella misura in cui viene creduta un ritratto fedele del mondo. Applicare a uno strumento del genere la logica del contenuto d’intrattenimento, significa confondere il piano dell’immaginare con quello del verificare, e farli collassare nello stesso bottone.
Il satellitare è difficile da falsificare
Finora le immagini dallo spazio hanno goduto di una presunzione di affidabilità che nessun’altra immagine ha avuto. E la ragione è tecnica: le fotografie arriva dai satelliti, la loro produzione richiede mezzi che ben pochi possiedono, contraffarle era complicato.
Per questo funzionari governativi, giornalisti e ricercatori open source hanno usato per anni le immagini satellitari come prova per valutare guerre e disastri sul terreno. Jake Godin di Bellingcat, un gruppo di indagini visive, ha ricordato che il satellitare è stato a lungo una scommessa sicura proprio perché difficile da falsificare.
Henry Ajder, che studia i falsi generati con l’IA, ha spiegato che mettere la generazione di immagini dentro Google Earth ha reso “banalmente facile” ciò che prima richiedeva competenze rare. La barriera tecnica che proteggeva la fonte è caduta con un clic.
Il watermark che si aggira con una foto
Molti dei falsi circolati online erano dichiarati tali, e non risulta che abbiano ingannato molte persone. Ma non è lì che si misura il danno.
Ajder lo ha definito “dubbio per impostazione predefinita quando è politicamente conveniente”: una volta che tutti sanno che un cratere satellitare si inventa in pochi secondi, diventa possibile mettere in discussione anche i crateri veri. Il sospetto si sposta così sull’autentico.
La difesa esibita da Google è SynthID, un watermark invisibile che dovrebbe segnalare le immagini prodotte dalla sua IA. Henk van Ess, esperto di ricerca online che quei falsi li aveva creati per primo, ha mostrato quanto sia debole: basta rimuovere il marchio con appositi strumenti, oppure fotografare lo schermo.
Un giornalista del Washington Post ha scattato con un iPhone la foto di un’immagine alterata, e il sistema di Google non l’ha riconosciuta come artificiale. Emmanuelle Saliba, della società di rilevamento GetReal, ha mostrato il limite di fondo: i watermark sono utili ma “non cambiano il modo in cui le persone consumano l’informazione”.
Le immagini si guardano e si condividono in pochi secondi, verificarle richiede tempo e l’onere ricade su chi legge. La tutela insomma esiste sulla carta, nella pratica un po’ meno.
La seconda ritirata di Google
Non è la prima volta che Google incassa attenzioni indesiderate per le sue immagini generate: due anni fa aveva limitato Gemini dopo le accuse di un pregiudizio anti-bianchi, mentre l’anno scorso un suo modello aveva prodotto il video virale dei conigli sul trampolino.
Qui la marcia indietro è arrivata in poche ore ma solo dopo che i giornalisti avevano fabbricato il cratere sotto il Washington Monument. E come già osservavamo a proposito di Gemini, l’impressione è di un’azienda che reagisce agli sviluppi dell’IA più di quanto li governi.
Fonte: Washington Post
