Il procuratore generale della California, Rob Bonta, ha inviato una lettera di diffida a xAI, ordinando all’azienda di Elon Musk di bloccare immediatamente la creazione e la distribuzione di immagini sessuali false di minori tramite Grok.
Mercoledì aveva già aperto un’indagine formale sulla piattaforma, dopo le ripetute segnalazioni di immagini generate dall’IA che ritraevano ragazze minorenni e donne nude. “La valanga di report che descrivono questo materiale, che a volte raffigura donne e bambini impegnati in attività sessuali, è scioccante e, come ha determinato il mio ufficio, potenzialmente illegale”, ha dichiarato Bonta. “Mi aspetto che xAI si conformi immediatamente. La California ha tolleranza zero per il materiale pedopornografico”.
Una crisi già mondiale
La diffida californiana arriva dopo settimane di pressione internazionale. Lo scandalo è esploso quando è emerso che Grok generava su richiesta immagini sessualizzate di donne e minori, inclusa la rimozione digitale dei vestiti dall’attrice quattordicenne Nell Fisher. L’Internet Watch Foundation ha successivamente trovato sul dark web materiale pedopornografico prodotto dal chatbot, con immagini di bambine tra gli 11 e i 13 anni.
La Francia ha deferito il caso alla procura per possibili violazioni del Digital Services Act. L’India ha dato a xAI 72 ore per presentare un piano correttivo. L’Indonesia ha imposto un blocco temporaneo. Nel Regno Unito, il premier Keir Starmer ha chiesto pubblicamente a X di “darsi una regolata”, mentre l’Ofcom valuta tutti i poteri a disposizione, incluso il blocco della piattaforma. Musk ha risposto definendo il governo britannico “fascista”.
Grok, il paywall che non risolve nulla
Di fronte alla crisi, xAI ha scelto una strada peculiare: spostare la generazione di immagini dietro un abbonamento premium. Una mossa che ha fatto impennare i ricavi (gli acquisti in-app su X sono aumentati del 18% in un solo giorno) ma che non ha fermato la produzione di contenuti dannosi. Secondo la ricercatrice Genevieve Oh, anche dopo l’aggiornamento Grok continuava a sfornare oltre 1.500 immagini problematiche all’ora, circa il 60% del suo output pubblico.
Il paywall, peraltro, si applica solo alla generazione tramite X: l’app standalone di Grok e il sito grok.com restano gratuiti e privi delle nuove restrizioni. Un portavoce del premier britannico ha definito la scelta “un insulto alle vittime di misoginia e abusi sessuali”. Clare McGlynn, docente di diritto a Durham, ha commentato: “Non è una vittoria. Servivano protezioni strutturali, non un paywall. Questa sembra un’azienda che trasforma una crisi in un’opportunità di profitto”.
Il paradosso americano
Fino a venerdì, la pressione su xAI è arrivata quasi esclusivamente dall’estero. Negli Stati Uniti, Musk è sembrato godere di una sostanziale immunità politica: l’amministrazione Trump ha infatti già integrato Grok nei flussi di lavoro governativi, mentre la First Lady Melania Trump sostiene pubblicamente il TAKE IT DOWN Act, legge mirata proprio alle immagini sessuali non consensuali.
La diffida di Bonta rompe questo schema. Per la prima volta, un’autorità americana contesta formalmente le pratiche di xAI, accusando l’azienda di violare sia le leggi penali (la creazione di materiale pedopornografico è un reato), sia quelle civili della California.
Il caso potrebbe accelerare l’approvazione di norme che Musk ha sempre cercato di evitare. Il senatore californiano Scott Wiener ha rilanciato il disegno di legge SB 53, del quale abbiamo scritto in passato, che obbligherebbe tutti i principali laboratori di IA a pubblicare report dettagliati su protocolli di sicurezza e valutazioni di rischio. Proposte simili sono in discussione anche a New York.
Il Digital Services Act europeo prevede già multe fino al 6% del fatturato globale per le piattaforme che non mitigano i rischi di diffusione di contenuti illegali. Una coalizione di oltre 30 gruppi di advocacy aveva chiesto al governo americano di bloccare Grok per mancanza di test di sicurezza. Ora, con anche la California in campo, quegli argomenti pesano di più.
Fonte: Axios
