La procura di San Francisco ha intimato ad Apple e Google di eliminare dai rispettivi negozi digitali decine di applicazioni di deepfake, programmi concepiti per alterare via software le immagini e spogliare artificialmente i soggetti.
La contestazione formale non si limita alla semplice presenza dei software ma colpisce il cuore finanziario del sistema di distribuzione delle due aziende. Secondo il procuratore David Chiu, i due gruppi della Silicon Valley avrebbero continuato a processare transazioni legate a queste piattaforme, incassando quote sulle transazioni interne e sui download.
L’azione legale si fonda su un quadro normativo che in California ha progressivamente ristretto i margini di manovra dei distributori. La legge statale punisce chiunque agevoli in modo consapevole o sostenga con imprudenza la creazione di materiale pornografico manipolato senza il consenso degli interessati. Dal 2025, una specifica norma permette inoltre alle vittime di rivalersi direttamente in sede civile contro i soggetti terzi che facilitano la diffusione di tali contenuti.
L’accusa mossa dalla magistratura locale punta a scardinare il principio di neutralità tecnica delle piattaforme. “Apple e Google stanno guadagnando su app che sfruttano donne e ragazze generando deepfake intimi non consensuali”, ha dichiarato Chiu.
Il procuratore ha poi chiarito che, sebbene vi siano state alcune esclusioni puntuali di programmi irregolari, le aziende mantengono il dovere di operare con vigilanza preventiva per impedire dinamiche di abuso.
Deepfake: la catena delle segnalazioni
Le comunicazioni inviate ai vertici delle due società evidenziano una situazione di prolungata consapevolezza. L’ufficio del procuratore ha rimarcato come i gestori degli store siano a conoscenza delle irregolarità da molti mesi, continuando a elaborare i pagamenti per acquisti ritenuti illeciti.
Il materiale istruttorio si basa anche sui riscontri del Tech Transparency Project, un organismo di monitoraggio che ha documentato la vendita di immagini intime contraffatte attraverso i sistemi di pagamento interni dei due colossi.
I rapporti tecnici descrivono una dinamica più complessa della semplice ospitalità passiva. I sistemi di raccomandazione automatica degli store avrebbero infatti indirizzato le ricerche degli utenti verso questa categoria di applicativi. Per questa ragione, gli analisti hanno definito le due aziende come partecipanti attivi nel processo di diffusione di strumenti di intelligenza artificiale capaci di trasformare immagini pubbliche in contenuti sessualizzati.
L’impatto economico stimato dalle autorità giudiziarie descrive un giro d’affari da milioni di dollari in commissioni derivanti dai servizi di abbonamento e dai crediti acquistati dagli utenti per generare le immagini. La procura ha concesso una finestra temporale per l’adeguamento spontaneo e l’avvio di un confronto istituzionale, oltre la quale scatteranno le procedure per l’applicazione di sanzioni civili.
La difesa delle piattaforme
La replica dei due gruppi industriali si concentra sulle misure restrittive applicate a seguito delle contestazioni. Un portavoce di Apple ha ribadito che i programmi di creazione dei deepfake violano le linee guida ufficiali dell’App Store.
Il gruppo ha confermato l’avvenuta rimozione di una parte dei software segnalati, l’avvio delle procedure per la cancellazione dei relativi account di sviluppo e il monitoraggio di altre posizioni contrattuali per verificare la conformità ai regolamenti interni.
Google ha risposto dichiarando la sospensione dei titoli indicati nella diffida della procura dal catalogo di Google Play. La linea aziendale prevede l’apertura di indagini interne tempestive al ricevimento delle denunce. Negli ultimi mesi, tali controlli hanno portato alla chiusura di centinaia di applicativi analoghi e all’inserimento di restrizioni sui motori di ricerca interni per termini specifici legati alla manipolazione dei corpi.
La proliferazione di questi strumenti sposta l’asse della sicurezza digitale per il grande pubblico. Se in passato i deepfake pornografici costituivano una minaccia concentrata sui profili di celebrità ed esponenti pubblici, l’accessibilità della tecnologia generativa attuale estende il rischio a qualunque utente disponga di una fotografia pubblicata sulle piattaforme di condivisione o sui servizi di messaggistica.
Fonte: TechCrunch
