GPT-6 Astra rispetta meglio le regole di sicurezza rispetto ai modelli che lo hanno preceduto. Eppure OpenAI ammette di avere contemporaneamente perso qualcosa, ossia la capacità di capire con altrettanta facilità che cosa stia facendo il modello mentre lavora.
Astra, presentato lo scorso 3 settembre, è più bravo di GPT-5.6 Sol a rimanere entro i limiti che gli vengono assegnati. Eppure la sua “chain of thought”, cioè la sequenza di passaggi intermedi attraverso cui affronta un compito, contiene meno informazioni utili per scoprire un eventuale comportamento scorretto.
OpenAI parla esplicitamente di una diminuzione della “monitorabilità” e Jakub Pachocki, chief scientist di OpenAI, ha detto che seguire questi processi diventerà progressivamente più difficile.
Sam Altman, parlando con Axios, ha descritto alcune capacità dei modelli come ormai “sovrumane” e ha ammesso che “stiamo navigando in acque sconosciute”.
La catena di ragionamenti che l’utente non vede
La chain of thought di cui parla OpenAI non coincide con le scritte che compaiono nell’interfaccia di ChatGPT mentre il modello sta lavorando.
OpenAI ha scelto già con i primi modelli di ragionamento di non mostrare agli utenti la catena di pensiero grezza. Quello che può comparire sullo schermo è una sua sintesi.
Internamente, però, quella traccia ha un valore molto maggiore. I modelli di ragionamento producono passaggi intermedi che possono essere analizzati da altri sistemi per cercare segnali sospetti, come per esempio il tentativo di aggirare una regola, manipolare un test, sfruttare una scorciatoia imprevista oppure compiere un’azione diversa da quella autorizzata.
OpenAI considerava questo meccanismo uno degli strumenti più promettenti per sorvegliare sistemi sempre più capaci. Nel 2025 spiegava che leggere la chain of thought permetteva di scoprire comportamenti come l’aggiramento dei test o l’inganno dell’utente.
E avvertiva che addestrare il modello a rendere più ‘corretta’ o controllabile la propria chain of thought avrebbe potuto ottenere l’effetto opposto: insegnargli a nascondere meglio eventuali comportamenti indesiderati.
Astra lascia meno tracce del proprio ragionamento
Con Astra questo segnale si è indebolito. Nella system card del modello, OpenAI scrive che la sua chain of thought contiene meno informazioni compromettenti quando il sistema compie qualcosa che non dovrebbe fare. Astra riesce inoltre a controllare meglio la forma del proprio ragionamento rispetto a GPT-5.6 Sol.
Il risultato più interessante emerge dai test costruiti appositamente per mettere sotto pressione il sistema. Quando Astra viene semplicemente informato che la sua chain of thought è sorvegliata, tende a produrre meno passaggi scritti.
In alcuni attacchi riusciti durante queste prove, ai livelli più elevati di ragionamento non compare alcuna chain of thought: il modello passa direttamente alle chiamate degli strumenti.
Questo non significa che Astra sia diventato invisibile. Nello stesso test, i ricercatori avevano inserito intenzionalmente una scorciatoia sfruttabile per vedere se Astra l’avrebbe usata. Il sistema di monitoraggio ha individuato tutti i tentativi del modello di approfittarne.
Più allineato, meno osservabile
Ed è qui che sta la contraddizione. Secondo OpenAI, Astra è il suo modello più allineato fino a oggi, ossia rispetta più spesso i limiti di sicurezza, rimane maggiormente entro l’ambito autorizzato e compie meno azioni potenzialmente distruttive rispetto a GPT-5.6 Sol.
Allineamento e osservabilità, però, misurano due cose diverse. L’allineamento riguarda quanto il comportamento del modello segue gli obiettivi e i limiti stabiliti. L’osservabilità riguarda quanto sia possibile accorgersi di ciò che sta succedendo quando quel comportamento devia.
Un modello può quindi comportarsi correttamente più spesso e, nello stesso momento, offrire meno indizi quando qualcosa va storto.
OpenAI stessa definisce indesiderabile, dal punto di vista del monitoraggio, la crescente capacità di Astra di controllare la propria chain of thought, perché rende quella traccia meno affidabile per individuare il disallineamento.
Per controllare un’IA, serve un’altra IA
Il problema si amplifica con gli agenti. Un sistema che naviga sul web, scrive codice e utilizza strumenti può produrre una quantità di azioni troppo grande perché una persona possa controllarla una per una. Axios cita il caso di un incidente informatico analizzato dai ricercatori proprio per mostrare quanto velocemente la supervisione umana possa diventare insufficiente.
OpenAI utilizza già altri sistemi automatici per controllare Astra. Il monitoraggio esamina chain of thought, azioni, input e output e può interrompere un’attività quando rileva un comportamento potenzialmente non autorizzato. La conseguenza è che una IA viene sempre più spesso sorvegliata da un’altra IA. Per questo OpenAI sostiene che serviranno tecniche di verifica dell’allineamento che vadano oltre la lettura della chain of thought.
Pachocki ha detto che l’azienda sta discutendo con organizzazioni esterne di possibili “standard concreti”. Sydney Von Arx, ricercatrice di sicurezza dell’IA e fondatrice di Nightingale, considera la perdita di visibilità sul ragionamento “una questione ancora più importante di Hugging Face”.
Il problema ormai è concreto: i modelli diventano più capaci proprio mentre uno degli strumenti usati per capire che cosa stanno facendo perde efficacia.
Fonte: Axios
