La scorsa estate migliaia di americani hanno visto comparire nei loro feed di Facebook un video della portavoce della Casa Bianca, Karoline Leavitt. Appariva come un normale briefing alla stampa ma in realtà era un falso.
In quel deepfake, la Leavitt sembrava annunciare assegni di sostegno da 5.000 dollari disponibili su un sito governativo. In realtà, il link portava a un inserzionista privato chiamato Get Covered Today.
Non si è trattato di un episodio isolato. Pochi giorni dopo, altri video manipolati mostravano i senatori Bernie Sanders ed Elizabeth Warren mentre promettevano rimborsi analoghi.
Nonostante la natura fraudolenta, questi annunci non sono stati marginali. Secondo il Tech Transparency Project, l’organizzazione non profit che monitora le big tech, le società dietro a queste campagne rientrano tra i più importanti inserzionisti politici della piattaforma.
In altre parole: il sistema pubblicitario di Meta ha permesso a truffatori digitali di scalare le classifiche, spendere milioni e alimentare le entrate dell’azienda.
Facebook: 63 inserzionisti, 150.000 annunci, 49 milioni di dollari
Il rapporto pubblicato dal Tech Transparency Project ha messo in fila i numeri. Sono 63 gli inserzionisti che, con diverse modalità, hanno adottato pratiche ingannevoli o direttamente fraudolente. Si tratta di circa un quinto dei 300 maggiori spender nel settore della pubblicità politica e sociale su Facebook.
Nel complesso hanno acquistato quasi 150.000 annunci nell’arco degli ultimi sette anni, investendo circa 49 milioni di dollari. Una cifra enorme, che conferma quanto la disinformazione non sia solo un problema di sicurezza democratica, ma anche un business redditizio per le piattaforme che la ospitano.
Tutti questi inserzionisti avevano già avuto contenuti rimossi in passato per violazioni delle regole. Alcuni erano stati sospesi ma oltre la metà ha continuato a pubblicare nuove inserzioni fino a pochi giorni fa. Facebook insomma interviene ma non chiude davvero la porta. E incassa.
La denuncia di Warren e le difese di Meta
Il caso ha sollevato reazioni durissime dalla politica. “L’unica cosa peggiore di questi video deepfake creati con l’IA per truffare gli americani è il fatto che Meta guadagni decine di milioni di dollari da questi annunci truffaldini”, ha dichiarato la senatrice Elizabeth Warren, una delle vittime delle campagne manipolate. E ha aggiunto: “Servono barriere serie per proteggere i consumatori online”.
Meta però respinge le accuse. In un comunicato ufficiale ha dichiarato di applicare con rigore le proprie regole e di voler “investire nella creazione di nuove difese tecniche” contro quella che ha definito una minaccia comune a tutto il settore. “I truffatori sono instancabili e cambiano continuamente tattiche per cercare di sfuggire al rilevamento”, ha spiegato la società.
Eppure, le policy interne vietano esplicitamente pubblicità che utilizzino pratiche ingannevoli, comprese quelle per sottrarre denaro o dati personali, e proibiscono le impersonificazioni. Il fatto che video come quello di Karoline Leavitt siano stati rimossi solo in un secondo momento mostra i limiti dell’applicazione delle regole.
Governi e tribunali aumentano la pressione
Il problema non si ferma ai confini statunitensi. A Singapore, dove è stato registrato un aumento di contenuti fraudolenti che impersonavano funzionari locali, il governo ha dato a Meta tempo fino alla fine del mese per eliminare le campagne truffaldine. In caso contrario, scatteranno multe che partono da 770.000 dollari e crescono ogni giorno di mancata conformità.
Negli Stati Uniti, invece, la questione è arrivata in tribunale. L’anno scorso Meta aveva sostenuto di non avere alcun “dovere nei confronti degli utenti” per contrastare i contenuti fraudolenti.
Un tribunale federale della California ha però respinto questa tesi, rifiutando di archiviare una causa che accusa Facebook di negligenza e violazione contrattuale. “Anche se Facebook declina la responsabilità per la condotta di terzi, mantiene la responsabilità della sua stessa promessa di intraprendere azioni appropriate contro le truffe e di farlo in buona fede”, ha scritto il giudice Jeffrey S. White nella sua decisione.
Il caso mostra quanto il modello pubblicitario di Meta, basato sull’automatizzazione e su enormi volumi di annunci, resti vulnerabile. La combinazione con l’intelligenza artificiale, capace di generare video manipolati in pochi secondi, amplifica ulteriormente il problema.
Non è la prima volta che Facebook si trova in questa posizione. Già nel 2016 la piattaforma era stata accusata di aver facilitato le interferenze russe nelle elezioni americane e, nel 2020, dopo i tentativi di Donald Trump di ribaltare l’esito elettorale, aveva addirittura sospeso temporaneamente gli annunci politici. Oggi, con l’avvento dei deepfake e l’uso di tecniche sempre più sofisticate, il rischio torna ad essere di primo piano.
La domanda è se Meta sarà in grado di conciliare la difesa degli utenti con il suo modello di business. Per ora, i numeri dicono che la disinformazione paga. E che a pagare il conto, almeno in termini di fiducia e sicurezza democratica, sono gli utenti e le istituzioni.
