La lettera è datata 23 aprile, la strage è del 10 febbraio. In mezzo ci sono otto morti, una comunità di duemila persone sotto choc e settimane di pressione politica da parte dei legislatori canadesi, che hanno chiesto pubblicamente a OpenAI di scusarsi. La lettera di Sam Altman, dunque, è arrivata dopo settimane di pressioni, non apparentemente come un gesto spontaneo.
Altman ha scritto alla comunità di Tumbler Ridge, una piccola città mineraria della British Columbia, dove il 10 febbraio scorso Jesse Van Rootselaar, diciotto anni, ha aperto il fuoco alla Tumbler Ridge Secondary School.
Nella scuola sono stati uccisi cinque bambini e un educatore. Prima di arrivare nell’istituto, secondo la ricostruzione della polizia, Van Rootselaar aveva ucciso anche la madre e il fratellastro di undici anni nella loro abitazione. Poi si è tolta la vita.
“Non riesco a immaginare nulla di peggio al mondo che perdere un figlio”, ha scritto Altman. “Il dolore che la vostra comunità ha dovuto sopportare è inimmaginabile.
Cosa sapeva OpenAI
Otto mesi prima della strage, nel giugno 2025, il sistema automatico di rilevamento degli abusi di OpenAI aveva segnalato l’account di Van Rootselaar.
I messaggi descrivevano scenari violenti. Alcuni dipendenti avevano interpretato quei contenuti come un possibile indicatore di intenzioni reali e avevano spinto perché l’azienda avvisasse le forze dell’ordine canadesi. La richiesta interna, però, non fu accolta: OpenAI decise di non contattare le autorità.
La motivazione ufficiale è che il caso “non rappresentava un rischio imminente e credibile di grave danno fisico ad altri” e non raggiungeva quindi la soglia interna prevista per la segnalazione alle autorità. L’account venne bannato e la vicenda, almeno dentro i protocolli dell’azienda, finì lì.
Questo però non bastò a fermare Van Rootselaar, che aprì un secondo account su ChatGPT. OpenAI lo scoprì solo dopo la sparatoria, quando il nome della sospettata era già di dominio pubblico. Entrambi gli account sono stati poi trasmessi alla polizia federale canadese.
Il precedente della Florida
Il caso Tumbler Ridge non è isolato. Pochi mesi prima, negli Stati Uniti, ChatGPT era già comparso nelle indagini su un’altra sparatoria.
Ad aprile 2025, alla Florida State University, Phoenix Ikner, vent’anni, aveva condotto conversazioni con il chatbot che oggi fanno parte di un fascicolo penale. Secondo le autorità della Florida, Ikner aveva chiesto a ChatGPT indicazioni su armi, munizioni, orari di maggiore affollamento del campus e modalità per usare il fucile pochi minuti prima dell’attacco. Nella sparatoria morirono due persone e sei rimasero ferite.
È su questo precedente che il procuratore generale della Florida, James Uthmeier, ha aperto un’indagine penale contro OpenAI. Uthmeier ha sostenuto che, se ChatGPT fosse una persona, potrebbe essere chiamato a rispondere di omicidio.
OpenAI ha respinto questa lettura, affermando che il chatbot aveva fornito risposte fattuali a domande basate su informazioni disponibili pubblicamente e che non aveva incoraggiato né promosso attività illegali o dannose.
La promessa di non sbagliare più
Nella lettera a Tumbler Ridge, Altman rinnova l’impegno a lavorare “con tutti i livelli di governo” per prevenire tragedie simili. OpenAI ha già annunciato protocolli rafforzati: secondo la vicepresidente per le politiche globali Anne O’Leary, con le nuove regole il caso Van Rootselaar sarebbe stato segnalato alle autorità.
Ma la soglia che divide un contenuto “preoccupante” da un “rischio imminente e credibile” è tracciata da OpenAI. È l’azienda stessa a decidere quando quella soglia è stata superata. E, nei fatti, ha già dimostrato di poter sbagliare questa valutazione con conseguenze irreversibili.
Il punto non riguarda solo OpenAI. Riguarda tutte le aziende che gestiscono chatbot capaci di raccogliere conversazioni private, riconoscere segnali di rischio e decidere se quei segnali debbano restare dentro i loro sistemi o uscire, diventando materia per le autorità.
Chi traccia il confine
Il caso Tumbler Ridge, insieme a quello della Florida, ha accelerato un dibattito che in Canada e negli Stati Uniti era già aperto. Il premier della British Columbia David Eby ha chiesto norme federali che obblighino le piattaforme tecnologiche a segnalare alle forze dell’ordine qualsiasi indizio di pianificazione di attacchi violenti.
A livello federale canadese, il confronto è in corso ma non ci sono ancora decisioni definitive. La domanda, però, è più complicata di quanto sembri: chi stabilisce quando un chatbot ha il dovere di chiamare la polizia?
I chatbot possono essere usati per rispondere alle domande più disparate, poste per curiosità, ricerca, lavoro, scrittura, studio o semplice provocazione. Una conversazione può essere inquietante senza essere necessariamente la prova di un piano reale. Ma può anche essere il contrario: un segnale autentico può perdersi dentro una procedura aziendale troppo prudente.
Abbassare la soglia di segnalazione alle autorità senza criteri chiari, trasformerebbe ogni chatbot in uno strumento di sorveglianza preventiva, con cittadini comuni potenzialmente esposti alle indagini delle autorità insieme ai casi realmente pericolosi. Ma lasciare tutto alla discrezione interna delle aziende non è meno problematico: nel caso Tumbler Ridge, quella discrezione ha prodotto una decisione che oggi OpenAI stessa riconosce come insufficiente.
Il problema è che entrambe le risposte fanno paura. Se la soglia resta troppo alta, un segnale reale può perdersi dentro i protocolli aziendali. Se diventa troppo bassa, ogni conversazione privata con un chatbot può trasformarsi in un potenziale fascicolo.
Dopo Tumbler Ridge, OpenAI promette di collaborare di più con i governi. Ma la domanda resta intatta: vogliamo davvero che siano le aziende di IA a decidere quando una frase scritta in chat deve diventare un allarme per la polizia?
Fonte: Wall Street Journal
