La storia del deepfake di Joe Biden è di quelle che non ci si crede. Sia per l’accaduto, che prima dell’avvento delle IA non sarebbe stato possibile, sia per la spiegazione di NBC News, che aggiunge alla grave vicenda quella spolverata di farsesca cialtroneria che solitamente siamo abituati a imputare esclusivamente a noi italiani. E invece…
Ripercorriamo gli antefatti. Lo scorso gennaio, gli elettori del New Hampshire, prima di andare a votare alle primarie democratiche, sono stati raggiunti da una telefonata in cui una voce pre-registrata di Joe Biden diceva: “Sappiamo quanto sia importante votare Democratico quando i nostri voti contano. È fondamentale che conserviate il vostro voto per le elezioni di novembre. Avremo bisogno del vostro aiuto per eleggere i Democratici a tutti i livelli. Votare questo martedì favorisce solo i Repubblicani nella loro missione di rieleggere Donald Trump. Il vostro voto farà la differenza a novembre, non questo martedì”.
A comunicare questo messaggio sulla cui logica ci stiamo ancora interrogando, non era però proprio Joe Biden ma una voce ricreata con l’intelligenza artificiale. Il fatto aveva smosso la Federal Communications Commission (FCC) nella persona di Jessica Rosenworcel, che aveva lanciato i suoi strali contro l’impiego delle IA per alterare il normale corso della democrazie. L’ufficio del procuratore generale del New Hampshire, ovviamente, aveva avviato un’indagine.
All’inizio di febbraio abbiamo poi riportato che le investigazioni avevano identificato nella texana Lingo Telecom il fornitore dei servizi vocali usati per le finte chiamate. Quest’ultima ha a sua volta accusato Life Corporation, che si sarebbe avvalsa fraudolentemente dei propri servizi. Arriviamo così a queste ore, quando NBC News ha dipanato la matassa, raccontando ieri che Steve Kramer, consulente politico di un candidato rivale, ha confessato di essere il mandante delle finte chiamate automatizzate che riproducevano la voce di Joe Biden .
Kramer ha dichiarato di non pentirsi di aver realizzato il deepfake: “La sera del 20 gennaio, due giorni prima delle primarie del New Hampshire, ho inviato una chiamata automatizzata a 5.000 democratici con alta probabilità di voto. Una semplice applicazione online ha generato una versione artificiale della voce di Biden”.
Non è chiaro se il mandante di questa chiamata sia stato il deputato Dean Phillips, un candidato meno noto opposto a Biden all’epoca delle primarie. Fatto sta che Phillips ha pagato a Kramer oltre 250.000 dollari nel periodo in questione, secondo i documenti finanziari della campagna.
Il team di Phillips li giustifica spiegando di aver assunto Kramer nei mesi di dicembre e gennaio per attività legate alle schede elettorali a New York e Pennsylvania, compresa la raccolta di firme degli elettori. E dichiara l’estraneità alle azioni di Kramer: “La nostra campagna condanna nuovamente queste chiamate e qualsiasi tentativo di soppressione del voto”, ha affermato Katie Dolan, portavoce di Phillips, in risposta alle dichiarazioni di Kramer.
Tutto qui? No, perché ora entra in scena Paul Carpenter, un artista di strada di New Orleans (che vedete nell’immagine qui sopra di Matthew Hinton / AP), che ha rivelato di essere stato ingaggiato da Kramer per utilizzare un software d’intelligenza artificiale (che a questo punto supponiamo essere di Lingo Telecom) per creare un file audio che imitasse la voce di Biden, leggendo uno script fornito da Kramer. Carpenter è stato pagato 150 dollari, come dimostrato dalle transazioni su Venmo e dai messaggi di testo condivisi con NBC News.
Kramer, che ha lavorato per numerose campagne a vari livelli negli ultimi 20 anni, principalmente per i Democratici, e che ha iniziato la sua carriera con gli Young Democrats of America, ha confermato di aver ingaggiato la compagnia di telemarketing Life Corporation del Texas per distribuire le chiamate, identificata come origine delle chiamate. “Loro non erano a conoscenza del contenuto della chiamata prima della consegna,” ha scritto Kramer. “Li userei di nuovo ma hanno concluso i rapporti con la mia azienda.” Successivamente, ha confermato il coinvolgimento di Carpenter nella creazione del contenuto della chiamata.
Il senatore Dean Philips (U.S. House photo).
A questo punto, il quadro appare chiaro. Il deputato Dean Phillips paga 250mila dollari a Steve Kramer per non meglio precisate attività elettorali. Questo decide di mettere a nudo le vulnerabilità della democrazia nei confronti delle intelligenze artificiali (mica di favorire chi lo ha pagato profumatamente) e si appoggia a un mago di New Orleans. Il quale, immaginiamo forte del know-how accumulato nella sua carriera di artista di strada, si rivolge spontaneamente a Life Corporation, da cui partono le finte chiamate realizzate col software di Lingo Telecom.
Come se l’accaduto non fosse già grottesco, Steve Kramer, tutt’altro che pentito, prova a far passare le sue azioni come un’opera di bene, volta a evidenziare l’importanza di maggiori controlli sulle intelligenze artificiali. “Con un investimento di appena 500 dollari, chiunque potrebbe replicare ciò che ho fatto,” ha affermato. “È necessario un intervento immediato da parte delle autorità di regolamentazione e delle piattaforme. Anche i singoli individui possono utilizzare rapidamente e facilmente l’IA per scopi ingannevoli. […] L’autoregolamentazione non è sufficiente”, ha quindi concluso. E con questo, è tutto.
