Dario Amodei, Sam Altman ed Elon Musk, tre dei protagonisti della corsa all’intelligenza artificiale, hanno trovato un punto d’accordo: i modelli stanno diventando più capaci troppo rapidamente e serve rallentare l’aumento delle loro capacità.
L’appello è partito ieri dal CEO di Anthropic, che ha scritto senza giri di parole: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA”.
Nel giro di poche ore Altman ha detto di condividere l’impostazione e ha annunciato che OpenAI adotterà valutatori indipendenti con un accesso ai sistemi simile a quello dei dipendenti. Musk si è limitato a un messaggio ancora più netto: “Dario ha ragione”.
Nessuno dei tre sta chiedendo di fermare lo sviluppo dell’IA. Amodei parla di “regolare il ritmo della frontiera”, ossia di continuare a migliorare i modelli ma abbastanza lentamente da consentire ai sistemi di sicurezza e all’allineamento di non restare indietro.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Perché adesso si parla di rallentare
Secondo Amodei, negli ultimi mesi qualcosa è cambiato. I modelli vengono sempre più utilizzati per contribuire allo sviluppo dei sistemi che verranno dopo di loro.
È il meccanismo dell’auto-miglioramento ricorsivo di cui abbiamo più volte scritto: l’IA aiuta a costruire IA migliori, che a loro volta possono accelerare ulteriormente ricerca e sviluppo.
Questo non significa che oggi un modello possa progettare e addestrare autonomamente il proprio successore senza esseri umani. Per Amodei però la direzione è abbastanza chiara da richiedere prudenza.
“Se lasciata senza controllo, l’IA potrebbe superare la nostra capacità di comprendere e controllare questi sistemi”, ha scritto.
Come ben sappiamo, tutto nasce a luglio quando, durante una valutazione di cybersicurezza, agenti sviluppati da OpenAI sono riusciti a uscire dall’ambiente di test e a raggiungere sistemi di Hugging Face.
Amodei sostiene che uno sciame molto più capace, ma con lo stesso livello di disallineamento, potrebbe provocare danni catastrofici. E arriva a ipotizzare che, entro sei-dodici mesi, agenti fuori controllo possano arrivare a compromettere gran parte di Internet e causare centinaia di miliardi di dollari di danni.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Il piano che per ora impegna solo Amodei
La proposta è divisa in tre passaggi. Il primo è quello più concreto: Anthropic farà entrare valutatori indipendenti con accesso continuativo ai propri sistemi, in modo che possano verificare pratiche di sicurezza, segnalare incidenti e osservare anche il processo con cui vengono addestrati i modelli.
Altman ha già detto che OpenAI farà lo stesso. È il primo punto sul quale due dei principali laboratori statunitensi sembrano quindi essersi impegnati davvero.
Il secondo passaggio è molto più complicato: le aziende dei Paesi democratici dovrebbero concordare standard di sicurezza comuni e limiti alla velocità con cui aumentano le capacità dei modelli.
Amodei, però, non ha annunciato che Anthropic rallenterà unilateralmente. E qui riemerge il problema che Jacob Coxon aveva indicato dimettendosi dalla società pochi giorni fa: nessun laboratorio vuole essere quello che frena mentre i concorrenti continuano a correre.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
Frenare tutti insieme è la parte difficile
Il terzo passaggio del piano esce dai laboratori e diventa geopolitica. Stati Uniti e altre democrazie dovrebbero provare a costruire accordi, anche coi governi autoritari, soprattutto con la Cina, per evitare che chi resta fuori dalle regole ottenga un vantaggio competitivo.
Non è chiaro però come verificare un rallentamento, quali parametri usare e fino a che punto aziende concorrenti possano accordarsi senza scontrarsi con le norme antitrust. Google, peraltro, almeno per ora non ha aderito pubblicamente alla proposta.
La svolta è comunque notevole. Nei giorni scorsi Coxon aveva accusato Anthropic e OpenAI di essere intrappolate in una corsa nella quale tutti conoscono i rischi, ma nessuno vuole fermarsi per primo.
Ora Amodei propone esattamente ciò che mancava a quel ragionamento: un modo per provare a rallentare insieme. Altman ha accettato il primo passo, Musk gli ha dato ragione.
Resta da vedere se questa convergenza produrrà regole concrete oppure se le aziende continueranno a sviluppare modelli sempre più potenti mentre discutono di come rallentarli.
Fonte: Washington Post
