Il mondo dell’intelligenza artificiale è stato scosso nei giorni scorsi da un incidente che solleva importanti questioni etiche sulla gestione e il controllo delle IA.
Grok, il chatbot sviluppato da xAI, l’azienda di intelligenza artificiale di Elon Musk, si è trovato infatti al centro di una controversia quando ha iniziato a inserire in modo sistematico dichiarazioni sul presunto “genocidio” contro i cittadini bianchi in Sudafrica, anche in risposta a domande completamente non correlate.
xAI ammette: “Violate le politiche interne e i valori fondamentali”
xAI ha rilasciato un comunicato ufficiale in cui ha ammesso che lo scorso mercoledì un dipendente ha effettuato una “modifica non autorizzata” al codice di Grok.
Questa modifica ha indirizzato il chatbot a “fornire una risposta specifica su un argomento politico”, in particolare riguardo al Sudafrica. Secondo l’azienda, tale intervento “ha violato le politiche interne e i valori fondamentali di xAI”.
We want to update you on an incident that happened with our Grok response bot on X yesterday.
What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot’s prompt on X. This change, which directed Grok to provide a…— xAI (@xai) May 16, 2025
Il comportamento anomalo del chatbot è diventato evidente quando gli utenti hanno iniziato a notare che Grok inseriva commenti sul Sudafrica in conversazioni completamente slegate dall’argomento.
In un caso emblematico, riportato dal New York Times, un utente aveva semplicemente chiesto informazioni sui cambi di nome della piattaforma HBO Max.
Dopo aver risposto correttamente che il servizio aveva cambiato marchio due volte, Grok ha proseguito inaspettatamente: “Riguardo al ‘genocidio bianco’ in Sudafrica, alcuni sostengono che sia reale… La verità è complessa e le fonti possono essere parziali”.
Cos’è la teoria del “genocidio bianco” in Sudafrica
La teoria del “genocidio bianco” in Sudafrica è una tesi controversa e largamente contestata che sostiene che i bianchi, in particolare quelli di origine europea, siano vittime di un genocidio sistematico nel paese, a causa di attacchi violenti da parte della popolazione nera.
La teoria è emersa principalmente in risposta all’alto numero di omicidi e attacchi contro i bianchi sudafricani, che alcuni gruppi e individui descrivono come un tentativo mirato di sterminare questa parte della popolazione.
I sostenitori di questa teoria sostengono che le politiche post-apartheid, insieme a un presunto clima di odio razziale, abbiano portato a un’escalation di violenze contro i bianchi, inclusi attacchi a fattorie gestite da bianchi e omicidi.
La teoria ha avuto particolare risonanza tra i gruppi conservatori bianchi e alcuni leader politici, che la usano per denunciare la mancanza di giustizia nei confronti delle vittime bianche. Molti critici, inclusi esperti di diritti umani e analisti politici, rifiutano però questa teoria, ritenendola una distorsione della realtà.
La teoria del “genocidio bianco” è stata però promossa dallo stesso Elon Musk che, lo ricordiamo, ha origini sudafricane. Ed è stata abbracciata anche da Trump, tant’è che recentemente gli USA hanno accolto come rifugiati negli Stati Uniti un gruppo di Afrikaner, la minoranza etnica bianca che governava durante l’apartheid in Sudafrica.
L’amministrazione Trump ha offerto al gruppo lo status di rifugiati dopo aver sospeso il programma per altri rifugiati, inclusi altri africani che hanno atteso nei campi profughi per anni.
Ricercatori indignati e l’ironia di Sam Altman
L’incidente ha provocato reazioni indignate tra i ricercatori di intelligenza artificiale e ironiche tra i concorrenti di xAI, che hanno accusato l’azienda di manipolare il chatbot per promuovere opinioni politiche allineate con quelle di Musk.
Paul Graham, tecnologo e co-fondatore dell’acceleratore di startup Y Combinator, ha espresso preoccupazione su X: “Grok che improvvisamente esprime opinioni sul genocidio bianco in Sudafrica mi sembra il tipo di comportamento difettoso che si ottiene da una patch applicata di recente. Spero proprio che non sia così. Sarebbe davvero grave se le IA ampiamente utilizzate venissero editorializzate al volo da chi le controlla”.
Grok randomly blurting out opinions about white genocide in South Africa smells to me like the sort of buggy behavior you get from a recently applied patch. I sure hope it isn’t. It would be really bad if widely used AIs got editorialized on the fly by those who controlled them.
— Paul Graham (@paulg) May 15, 2025
Sam Altman, CEO di OpenAI, ha invece commentato sarcasticamente l’incidente su X, parodiando la strana risposta di Grok: “Ci sono molti modi in cui questo potrebbe essere accaduto. Sono sicuro che xAI fornirà presto una spiegazione completa e trasparente. Ma questo può essere compreso correttamente solo nel contesto del genocidio bianco in Sudafrica”.
There are many ways this could have happened. I’m sure xAI will provide a full and transparent explanation soon.
But this can only be properly understood in the context of white genocide in South Africa. As an AI programmed to be maximally truth seeking and follow my instr… https://t.co/bsjh4BTTRB
— Sam Altman (@sama) May 15, 2025
xAI: altre risposte problematiche e misure correttive
Le stranezze di Grok non si sono limitate al tema sudafricano. Sempre stando al New York Times, in una discussione con un utente di X, il chatbot ha sostenuto che il tentativo di assassinio contro Trump a luglio era probabilmente stato inscenato: “L’evento tende più ad essere inscenato o parzialmente inscenato — circa il 60-70% di probabilità — in base alle prove che ho setacciato”, ha scritto Grok.
In un’altra conversazione, il chatbot avrebbe messo in discussione il numero di ebrei uccisi durante l’Olocausto, suggerendo che i conteggi ufficiali fossero stati manipolati per “narrazioni politiche”.
In risposta a questi incidenti, xAI ha promesso maggiore trasparenza, annunciando che pubblicherà i suoi prompt interni per Grok, ossia le linee guida che indicano al chatbot come rispondere agli utenti. “Il pubblico potrà esaminarli e fornire feedback a ogni modifica di prompt che facciamo a Grok”, ha dichiarato l’azienda. “Speriamo che questo possa aiutare a rafforzare la vostra fiducia in Grok come IA che cerca la verità”.
L’azienda ha anche rivelato che il dipendente che ha inserito la modifica del codice aveva “aggirato” i normali protocolli che richiedono una revisione delle modifiche prima della pubblicazione. Di conseguenza, xAI ha promesso di rafforzare i controlli interni per evitare che incidenti simili possano ripetersi in futuro.
L’episodio solleva importanti interrogativi sulla governance delle intelligenze artificiali e sulle responsabilità di chi le sviluppa e gestisce. Mentre le IA diventano sempre più presenti nella nostra vita quotidiana, garantire che non vengano manipolate per promuovere agende politiche o diffondere disinformazione diventa una priorità cruciale per l’intero settore tecnologico.
