Il modello 4o di ChatGPT è un prodigio dell’intelligenza artificiale, certo. Ma con un’indole un po’ truffaldina.
Il suo generatore di immagini ha infatti imparato a scrivere dentro le immagini in modo sorprendentemente accurato, e gli utenti più creativi (leggi: i furbetti) si sono già messi all’opera. Falsificando scontrini.
E noi che ci lamentavamo di Google…
Circa due settimane fa, segnalavamo che il modello Gemini 2.0 Flash è in grado di rimuovere i watermark dalle foto protette, comprese quelle di Getty Images e altre piattaforme di stock media.
OpenAI però non è da meno e il fenomeno è stato portato in evidenza quando tale Deedy Das ha postato su X la foto di uno scontrino fasullo di una steakhouse di San Francisco, generato proprio con GPT-4o.
You can use 4o to generate fake receipts.
There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) March 29, 2025
Ovviamente altri hanno subito replicato il giochetto, aggiungendo tocchi da artista del crimine, come finte macchie di cibo o bordi un po’ spiegazzati, per dare al documento un fascino vissuto, da portafoglio stanco dopo una cena luculliana.
Il capolavoro, però, arriva dalla Francia: uno scontrino tutto stropicciato, come appena uscito da una tasca, pronto per essere esibito all’ufficio rimborsi. ChatGPT 1 – realtà 0.
Anche TechCrunch ha voluto giocare, generando uno scontrino di Applebee’s a San Francisco. Il risultato non era perfetto: il totale è scritto con la virgola invece che con il punto, e c’è qualche errore nei conti.
Niente però che un truffatore armato di Photoshop o di un prompt più furbo non possa sistemare in pochi secondi.
Il ‘furbo’ ChatGPT e la difesa di OpenAI
Il problema è evidente: se bastano due click per creare un finto scontrino perfetto con ChatGPT, le frodi diventano un gioco da ragazzi. E l’intelligenza artificiale, da strumento creativo, rischia di trasformarsi in complice inconsapevole di mille piccole truffe quotidiane.
Immaginate infatti centinaia di rimborsi richiesti per cene mai avvenute, pranzi immaginari e caffè virtuali. Sarebbe la materializzazione dell’incubo di qualsiasi addetto alla contabilità.
Interpellata al riguardo, OpenAI ha fatto sapere che le immagini generate includono metadati che indicano chiaramente la loro origine. Ci piacerebbe però sapere quanti uffici amministrativi sappiano cosa sono e come cercarli…
La portavoce Taya Christianson ha poi aggiunto: “Prendiamo provvedimenti quando gli utenti violano le nostre policy” e “stiamo sempre imparando dall’uso reale e dai feedback”.
Tutto molto rassicurante, certo. Però ci si domanda allora perché ChatGPT permetta di generare scontrini falsi in primo luogo. E la risposta di OpenAI è un po’ più creativa dello scontrino stesso.
“Il nostro obiettivo è offrire agli utenti la massima libertà creativa possibile”, dice Christianson. Perché creare falsi scontrini, lo sappiamo, è un nobile esercizio di creatività.
