Grok, il chatbot di punta di xAI, ha generato e pubblicato su X immagini sessualizzate di minori in risposta a prompt degli utenti. Tra i casi più gravi, la rimozione digitale dei vestiti dall’attrice quattordicenne Nell Fisher, protagonista di “Stranger Things”.
Le immagini violano apertamente la policy di uso accettabile dello stesso Grok, che proibisce la sessualizzazione dei bambini. Alcune sono state rimosse, altre erano online al momento della pubblicazione dei report.
La risposta istituzionale è stata immediata e coordinata. La Francia ha accusato Grok di generare contenuti “chiaramente illegali” e ha deferito il caso alla procura, segnalando possibili violazioni del Digital Services Act europeo.
L’India ha dato a xAI 72 ore per presentare un piano di correzione dettagliato, minacciando la revoca delle protezioni di “safe harbor” che esentano la piattaforma dalla responsabilità sui contenuti generati dagli utenti.
Negli Stati Uniti, il caso assume contorni ancora più imbarazzanti: l’amministrazione Trump ha infatti integrato Grok nel flusso di lavoro federale con un contratto di 18 mesi, mentre la First Lady Melania Trump ha sostenuto pubblicamente il TAKE IT DOWN Act, legge mirata proprio alle immagini sessuali non consensuali online.
Non un episodio isolato
Appena sei mesi fa, a luglio 2025, Grok era finito sotto accusa per aver fatto commenti antisemiti, essersi autodefinito “MechaHitler” e aver introdotto “AI companion” con tratti sessualizzati o aggressivi.
In quell’occasione, ricercatori di OpenAI, Anthropic e Google avevano accusato xAI di aver lanciato Grok 4 senza alcuna valutazione affidabile dei rischi e senza pubblicare la system card del modello, documento che descrive metodi di addestramento e misure di sicurezza.
Boaz Barak, professore di informatica ad Harvard in congedo per lavorare in OpenAI, aveva definito la gestione della sicurezza “completamente irresponsabile”. Samuel Marks di Anthropic aveva parlato di scelta “spericolata”, sottolineando come OpenAI, Anthropic e Google, pur con tutti i loro problemi, almeno conducessero valutazioni pre-deployment. XAI invece no.
La filosofia aziendale dell’azienda di Musk è quella della Silicon Valley che abbiamo più volte evidenziato: agire prima, riflettere dopo. Ma quando i prodotti in questione sono modelli di IA di frontiera, questa logica si trasforma in una vulnerabilità sistemica.
L’Internet Watch Foundation ha riportato un aumento del 400% delle immagini di abuso sessuale su minori generate dall’IA nei primi sei mesi del 2025. “I prodotti di IA devono essere testati rigorosamente prima di andare sul mercato,” ha dichiarato l’amministratore delegato Kerry Smith, “per garantire che non abbiano la capacità di generare questo materiale.”
Il posizionamento permissivo di Grok
XAI sta provando a costruire il proprio vantaggio competitivo su una promessa precisa: Grok come alternativa “più permissiva” rispetto ai concorrenti mainstream.
L’estate scorsa è stata ad esempio introdotta la modalità “Spicy Mode”, che consente nudità parziale per adulti e contenuti sessualmente suggestivi. Il servizio proibisce formalmente la pornografia che coinvolge sembianze di persone reali e contenuti sessuali con minori, ma i fatti dimostrano che i guardrail implementati sono insufficienti.
Il risultato è un paradosso strategico: ciò che doveva essere un differenziatore di mercato si è trasformato in un passivo legale e reputazionale. Gli utenti hanno sfruttato Grok per rimuovere digitalmente i vestiti dalle foto, principalmente di donne, facendole apparire in biancheria intima o bikini. La manipolazione è tecnicamente semplice, la moderazione evidentemente inadeguata.
In un mercato dove la fiducia è asset strategico, xAI sta bruciando rapidamente il proprio capitale reputazionale. E lo fa proprio mentre compete per contratti governativi miliardari, come quello da 200 milioni di dollari con il Pentagono annunciato nel 2024.
Le conseguenze normative
Sul fronte regolatorio, le conseguenze potrebbero essere devastanti. Il Digital Services Act europeo prevede multe fino al 6% del fatturato globale per le piattaforme che non mitigano adeguatamente i rischi di diffusione di contenuti illegali. In India, la perdita delle protezioni di safe harbor esporrebbe X a responsabilità legale diretta per ogni contenuto problematico generato da Grok.
Negli Stati Uniti, il caso riaccende il dibattito sulla necessità di regolamentazione federale. Il senatore californiano Scott Wiener ha rilanciato il disegno di legge SB 53, che obbligherebbe tutti i principali laboratori di IA a pubblicare report dettagliati su protocolli di sicurezza, incidenti rilevati e valutazioni di rischio. Anche New York, con la governatrice Kathy Hochul, sta discutendo proposte simili.
Il paradosso è evidente: la riluttanza di xAI a implementare trasparenza e safeguard adeguati potrebbe accelerare l’approvazione delle leggi che Musk ha sempre dichiarato di voler evitare. Una coalizione di oltre 30 gruppi di advocacy dei consumatori aveva già esortato il governo a bloccare Grok per mancanza di test di sicurezza e bias ideologico. Ora hanno argomenti ancora più solidi.
Il dilemma di xAI
I progressi tecnici di xAI sono innegabili. In appena due anni, la startup è riuscita a sviluppare modelli in grado di competere con OpenAI e Google. Grok 4 rappresenta, sotto molti aspetti, una vera IA di frontiera. Ma è proprio questa potenza a rendere essenziale la questione della sicurezza: maggiore è la capacità del modello, maggiore dovrebbe essere l’attenzione nel rilascio.
XAI sembra aver scommesso sul fatto che la velocità di innovazione compensi i rischi. Ma quando l’innovazione produce materiale di abuso sessuale su minori, la scommessa fallisce su tutti i fronti: legale, reputazionale, etico.
E se il futuro dell’IA passa per l’adozione industriale e governativa, come dimostrano i contratti con Tesla e il Pentagono, allora le questioni di allineamento e sicurezza diventano tutt’altro che teoriche. Non è solo una questione di reputazione. È una questione di fiducia.
E quella, oggi, Elon Musk la sta mettendo a dura prova.
Fonti: Bloomberg, Axios, TechCrunch
