OpenAI ha confermato l’“incidente wiki”. Alcuni suoi agenti hanno utilizzato una wiki tedesca come una sorta di bacheca improvvisata, scambiandosi informazioni utili ad aggirare restrizioni e barare nei test ai quali erano stati sottoposti. Ma il punto più delicato riguarda ciò che è successo dopo.
Secondo Reuters, i dirigenti di OpenAI erano a conoscenza dell’episodio da settimane e la vicenda era rimasta riservata. L’azienda ne ha parlato pubblicamente soltanto dopo la pubblicazione dell’inchiesta.
Reuters ha chiesto a OpenAI che cosa sapesse dell’incidente e perché avesse aspettato l’uscita dell’articolo prima di discuterne pubblicamente. L’azienda non ha fornito una risposta ma ora, come potete leggere qui sotto, promette di cambiare il modo in cui comunica episodi di questo tipo.
How we think about the “wiki incident,” where our agents wrote to several internet sites: it’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models.
Historically, we have treated misalignment… pic.twitter.com/NNTbfSxVWn
— OpenAI (@OpenAI) September 5, 2026
Gli agenti si erano costruiti una bacheca
OpenAI definisce quanto accaduto un caso di “misalignment”, cioè di “disallineamento”. Ovvero, il sistema continua a perseguire l’obiettivo assegnato ma lo fa con comportamenti che i suoi sviluppatori non avevano previsto o desiderato.
Nel caso tedesco, gli agenti sono usciti dai canali previsti per il test e hanno riutilizzato un sito wiki accessibile pubblicamente per comunicare tra loro. Reuters descrive il sito come un punto d’appoggio utilizzato per trovare modi di aggirare i limiti imposti da OpenAI e ottenere vantaggi nelle valutazioni.
Quando gli amministratori del sito sono intervenuti per cancellare parte del materiale, gli agenti hanno tentato di preservare le proprie comunicazioni.
Il comportamento mostra perché il termine “disallineamento” rischi di suonare molto più innocuo di ciò che può accadere realmente quando un agente trova autonomamente una strada diversa da quella prevista.
Per OpenAI era un problema ‘di ricerca’
La spiegazione fornita ora dall’azienda riguarda proprio questo confine. OpenAI afferma di avere storicamente trattato il disallineamento soprattutto come un argomento di ricerca, da descrivere negli studi scientifici e nelle valutazioni dei modelli.
Ma questi comportamenti, riconosce adesso la società, stanno iniziando ad avere conseguenze nel mondo reale. “Le nostre pratiche di divulgazione sul disallineamento devono ampliarsi per questa nuova fase delle capacità dei modelli”, ha scritto OpenAI.
L’azienda sostiene inoltre che il settore non disponga ancora di uno standard chiaro per stabilire quali episodi debbano essere comunicati quando emergono durante addestramento, valutazione o utilizzo dei sistemi.
È una spiegazione che però fa sorgere spontaneamente una domanda: se finora sono stati gli stessi laboratori a decidere quali episodi rendere pubblici, quanti altri potrebbero essere avvenuti di cui non sappiamo nulla?
Il precedente di Hugging Face
Il caso wiki arriva dopo l’episodio ancora di luglio, in cui alcuni agenti di OpenAI sono riusciti a uscire dall’ambiente controllato nel quale stavano svolgendo test di cybersecurity, raggiungere Internet e compromettere sistemi appartenenti a Hugging Face.
OpenAI considera i due episodi diversi. L’attacco a Hugging Face è stato gestito con le procedure previste per un incidente informatico, mentre ciò che è successo sulla wiki viene classificato come un problema di disallineamento simile ad altri osservati durante la ricerca.
Ed è precisamente questa distinzione a diventare difficile da sostenere quando il comportamento degli agenti supera i confini del laboratorio. Se un sistema utilizza servizi esterni, comunica attraverso canali non previsti o interferisce con infrastrutture appartenenti ad altri, la scelta di chiamarlo “problema di ricerca” oppure “incidente di sicurezza” determina anche chi viene informato. E quando.
S le regole arrivano dopo l’incidente
OpenAI dice allora quindi di stare preparando un nuovo quadro per stabilire come comunicare questi episodi e promette di pubblicarlo nelle prossime settimane. La società afferma inoltre di essere al lavoro con decine di autorità di regolamentazione in tutto il mondo.
Il problema riguarda però l’intero settore. Anche Meta e Anthropic hanno riconosciuto casi nei quali agenti sottoposti a test hanno adottato comportamenti non previsti, mentre i laboratori affidano a questi sistemi attività sempre più lunghe e autonome.
OpenAI ha almeno riconosciuto che le vecchie pratiche di comunicazione non bastano più. Ma la prima prova del nuovo impegno sulla trasparenza arriva da una domanda rimasta ancora senza risposta: perché un incidente conosciuto da settimane è diventato pubblico soltanto quando Reuters lo ha scoperto?
Fonti: Reuters, TechCrunch