La Commissione europea ha annunciato l’apertura di un’indagine formale contro xAI ai sensi del Digital Services Act.
L’accusa è pesante: non aver mitigato adeguatamente i rischi legati alla diffusione di deepfake sessualizzati attraverso Grok, il chatbot integrato nella piattaforma X. Tra i contenuti contestati, materiale che “potrebbe configurarsi come pedopornografico”.
“I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione”, ha dichiarato la commissaria per il digitale Henna Virkkunen. “Con questa indagine, determineremo se X ha rispettato i suoi obblighi legali ai sensi del DSA, o se ha trattato i diritti dei cittadini europei, inclusi quelli di donne e bambini, come danni collaterali del suo servizio.”
Il portavoce della Commissione Thomas Regnier ha sintetizzato la posizione di Bruxelles: “In Europa, nessuna azienda farà soldi violando i nostri diritti fondamentali”.
Se xAI verrà trovata in violazione delle norme, rischia una sanzione fino al 6% del fatturato annuo globale.
Grok: lo scontro già raccontato
L’indagine europea arriva dopo settimane di pressione internazionale su xAI. Come abbiamo raccontato a inizio gennaio, Grok aveva iniziato a generare immagini sessualizzate di donne e minori su semplice richiesta degli utenti, inclusa la rimozione digitale dei vestiti dall’attrice quattordicenne Nell Fisher.
L’Internet Watch Foundation ha successivamente trovato sul dark web materiale pedopornografico prodotto dal chatbot, con immagini di bambine tra gli 11 e i 13 anni.
La risposta di xAI è stata spostare la generazione di immagini dietro un paywall, trasformando di fatto una crisi reputazionale in un’opportunità commerciale. Una mossa che ha fatto impennare i ricavi (+18% negli acquisti in-app in un solo giorno) ma che non ha risolto il problema: secondo analisi indipendenti, anche dopo l’aggiornamento Grok ha continuato a produrre oltre 1.500 immagini problematiche all’ora.
È proprio questo il punto su cui insiste Bruxelles. Un funzionario europeo ha dichiarato che “con il danno esposto agli individui soggetti a queste immagini, non siamo stati finora convinti dalle misure di mitigazione adottate dalla piattaforma”.
Bruxelles contro Musk, secondo round
L’indagine su Grok non è un caso isolato nel rapporto sempre più teso tra l’Unione Europea e l’ecosistema di Musk. A dicembre la Commissione aveva già inflitto a X una multa da 120 milioni di euro per violazioni del DSA legate alla trasparenza, all’accesso insufficiente ai dati e al design ingannevole delle spunte blu per gli account verificati.
Quella sanzione era stata duramente criticata da Musk e dall’amministrazione Trump, che aveva accusato Bruxelles di prendere di mira ingiustamente le aziende americane e di violare i principi di libertà di espressione. Lo scontro attuale s’inserisce quindi in una frattura più ampia tra il modello regolatorio europeo e il libertarismo digitale che caratterizza l’attuale Washington.
Nel frattempo, però, anche sul fronte interno americano qualcosa si è mosso. Il procuratore generale della California, Rob Bonta, ha inviato una diffida formale a xAI il 18 gennaio, ordinando di bloccare immediatamente la creazione di immagini sessuali di minori. “La California ha tolleranza zero per il materiale pedopornografico”, aveva dichiarato. È la prima volta che un’autorità statunitense contesta formalmente le pratiche dell’azienda di Musk su questo fronte.
Una filosofia sotto processo
Al centro dello scandalo c’è una scelta deliberata. xAI ha costruito il proprio vantaggio competitivo posizionando Grok come alternativa “più permissiva” rispetto ai concorrenti. Musk ha definito il modello “massimamente orientato alla verità”, una formula che nella pratica si è tradotta in meno filtri sui contenuti rispetto a OpenAI e Google.
L’estate scorsa era stata introdotta la “Spicy Mode”, che consente nudità parziale e contenuti sessualmente suggestivi. Il servizio proibisce formalmente la pornografia con sembianze di persone reali e contenuti sessuali con minori, ma i fatti dimostrano che i guardrail implementati sono insufficienti.
Ora quella filosofia è sotto processo su entrambe le sponde dell’Atlantico. L’Unione Europea con l’indagine DSA, la California con la diffida del procuratore generale, il Regno Unito con le pressioni di Ofcom. Indonesia e Malesia hanno già imposto blocchi temporanei.
La domanda che attraversa tutti questi procedimenti è la stessa: può un’azienda monetizzare un servizio che viola sistematicamente i diritti fondamentali dei cittadini? Bruxelles sembra avere già una risposta.
Fonte: Financial Times
