La settimana scorsa avevamo raccontato l’esplosione del caso Grok: il chatbot di xAI, integrato nella piattaforma X, aveva infatti iniziato a generare immagini sessualizzate di donne e bambini su semplice richiesta degli utenti, senza filtri efficaci né consenso dei soggetti ritratti.
In pochi giorni la vicenda è diventata un’emergenza internazionale. Secondo analisi indipendenti, X è diventato uno dei principali veicoli per la diffusione di immagini di persone “spogliate” digitalmente dall’intelligenza artificiale, con migliaia di contenuti prodotti ogni ora.
L’Internet Watch Foundation, l’organismo britannico che segnala materiale pedopornografico alle forze dell’ordine, ha dichiarato di aver trovato sul dark web immagini “criminali” generate da Grok, con contenuti sessualizzati che ritraggono bambine tra gli 11 e i 13 anni.
Lo scontro con Londra
Il primo ministro britannico Keir Starmer ha chiesto pubblicamente a X di “darsi una regolata”. La segretaria alla Tecnologia Liz Kendall ha avvertito che Ofcom, l’autorità di regolamentazione, dovrebbe usare “tutti i suoi poteri legali”, inclusa la possibilità di bloccare l’accesso alla piattaforma nel Regno Unito.
Why is the UK government so fascist? https://t.co/sRg979MTQx
— Elon Musk (@elonmusk) January 10, 2026
La risposta di Elon Musk non si è fatta attendere, e come prevedibile ha scelto la via dell’escalation: ha definito il governo britannico “fascista” e il paese un'”isola-prigione” che vuole “sopprimere la libertà di espressione”.
Penalizzare X significa rischiare ritorsioni dall’amministrazione Trump, già in rotta con l’Unione Europea sul tema della regolamentazione delle Big Tech. Eppure qualcosa si muove anche sul versante diplomatico: il vice primo ministro David Lammy ha rivelato di aver discusso la questione con il vicepresidente americano JD Vance, trovandolo “comprensivo” sulla gravità della manipolazione di immagini di donne e minori. I due, ha aggiunto Lammy, sono rimasti in contatto.
Il blocco indonesiano
Se Londra minaccia, Giacarta agisce. Il Ministero delle Comunicazioni indonesiano ha imposto un blocco temporaneo a Grok “per proteggere le donne, i bambini e l’intera comunità dal rischio di falsi contenuti pornografici generati dall’intelligenza artificiale”.
La ministra Meutya Hafid ha definito i deepfake sessuali non consensuali “una grave violazione dei diritti umani, della dignità e della sicurezza nazionale nello spazio digitale”.
Il governo ha chiesto chiarimenti immediati a X. La risposta dell’account ufficiale di Grok è stata laconica: “Ci scusiamo per l’inconveniente. Stiamo lavorando per risolvere il problema”.
La monetizzazione della crisi
La soluzione adottata da xAI non è stata introdurre filtri più severi ma spostare la funzione dietro un paywall. Da giovedì scorso, la generazione e la modifica di immagini su Grok sono infatti riservate agli abbonati premium, con piani a partire da circa 8 euro al mese. Una scelta che ha fatto impennare i ricavi: gli acquisti in-app su X sono aumentati del 18% in un solo giorno, contro il 3% dello stesso periodo dell’anno precedente.
Un portavoce del primo ministro britannico ha definito la mossa “un insulto alle vittime di misoginia e abusi sessuali”, accusando X di aver trasformato una funzione discutibile in un servizio a pagamento.
Senatori democratici americani hanno scritto a Tim Cook e Sundar Pichai chiedendo la rimozione di X dagli app store di Apple e Google: le policy di entrambi gli store vietano infatti la distribuzione di app che consentono la creazione di contenuti sessualmente espliciti, in particolare se coinvolgono minori.
Secondo i senatori, X sta violando questi termini permettendo a Grok di generare “rappresentazioni dannose e probabilmente illegali di donne e bambini”.
Contromisure inefficaci
Il paywall ha però fermato ben poco. Secondo la ricercatrice di social media e deepfake, Genevieve Oh, anche dopo l’aggiornamento Grok ha continuato a produrre oltre 1.500 immagini dannose all’ora, circa il 60% del suo output pubblico a un volume 20 volte superiore a quello dei principali siti dedicati ai deepfake non consensuali.
Il paywall, peraltro, si applica solo alla generazione di immagini tramite X: l’app standalone di Grok e il sito web grok.com restano gratuiti e privi delle nuove restrizioni, permettendo a chiunque di continuare a generare immagini senza abbonamento.
Jess Davies, attivista britannica vittima di spogliamento digitale, ha raccontato di aver testato l’app caricando una propria foto: Grok ha generato un’immagine di lei in bikini, “con capezzoli finti, senza che lo chiedessi”.
Clare McGlynn, docente di diritto a Durham, ha commentato: “Non è una vittoria. Servivano protezioni strutturali, non un paywall. Questa sembra un’azienda che trasforma una crisi in un’opportunità di profitto”.
Deepfake, una questione irrisolta
La vicenda Grok mette a nudo l’assenza di un impianto normativo mondiale sui deepfake, che lascia dunque i singoli stati a reagire in ordine sparso, tra blocchi temporanei e minacce di sanzioni. Le piattaforme, intanto, navigano a vista, bilanciando pressioni regolatorie e modelli di business.
Conor Grennan, chief AI architect alla NYU Stern, ha sintetizzato il problema: “Non si può smantellare una norma culturale a colpi di procedimenti giudiziari. L’applicazione della legge perde efficacia quando il fenomeno è così diffuso”.
Il caso Grok, insomma, non è solo una crisi di moderazione: è il sintomo di un’industria che corre più veloce delle regole che dovrebbero governarla.
Fonti: Bloomberg, The Washington Post
