Demis Hassabis ha pubblicato martedì un saggio in cui propone la creazione di un ente americano incaricato di testare i modelli di intelligenza artificiale più avanzati prima della loro uscita sul mercato. L’amministratore delegato di Google DeepMind, premio Nobel per la Chimica nel 2024, sostiene che i rischi legati alla sicurezza nazionale, dalla cybersicurezza ai possibili rischi biologici e nucleari, richiedano un’azione urgente da parte dei regolatori, a partire dagli Stati Uniti.
Il testo, intitolato “A Framework for Frontier AI and the Dawning of a New Age” e pubblicato sul suo profilo X oltre che su Substack, arriva mentre Washington discute da mesi come gestire il potere crescente dei modelli più sofisticati, dopo un anno segnato dal blocco lampo dei sistemi di Anthropic e da un rallentamento forzato del lancio di GPT-5.6 di OpenAI.
Un organismo modellato sulla Finra
Hassabis propone di costruire il nuovo ente sul modello della Finra, l’autorità che negli Stati Uniti sorveglia i mercati finanziari sotto la supervisione della Sec. Si tratterebbe di un partenariato pubblico-privato finanziato dalle stesse aziende del settore, con un consiglio composto da esperti tecnici, rappresentanti dell’open source e funzionari governativi.
Nella fase iniziale i laboratori condividerebbero i propri modelli su base volontaria, fino a trenta giorni prima del lancio, per sottoporli a test sulle capacità cyber, biologiche e di inganno. Se il sistema di verifica si dimostrerà efficace, scrive Hassabis, la formalizzazione potrebbe arrivare rapidamente: superare i test diventerebbe cioè un requisito obbligatorio per distribuire un modello frontier negli Stati Uniti. L’obiettivo dichiarato è avere l’ente operativo entro la fine dell’anno.
Il precedente di Anthropic
La proposta arriva a un mese dal caso che ha acceso il dibattito sulla sicurezza dei modelli più potenti. A metà giugno il governo statunitense ha ordinato ad Anthropic di sospendere l’accesso ai modelli Claude Fable 5 e Mythos 5 per tutti gli utenti stranieri, appena tre giorni dopo il loro lancio pubblico. A far scattare il provvedimento è stato un allarme lanciato da Amazon: i ricercatori dell’azienda avevano scoperto un modo per aggirare le protezioni di Fable 5 e ottenere informazioni sulle capacità cyber avanzate di Mythos, la versione senza filtri del modello.
Anthropic ha sempre sostenuto che la falla individuata da Amazon fosse circoscritta e non un vero e proprio jailbreak del sistema. Il governo ha revocato il blocco il 30 giugno, dopo che l’azienda ha introdotto nuove protezioni contro le vulnerabilità segnalate.
Anche OpenAI rallentata
Pochi giorni dopo è toccato a OpenAI. Il governo ha chiesto all’azienda di limitare il lancio della famiglia di modelli GPT-5.6, che comprende le versioni Sol, Terra e Luna, a un gruppo ristretto di partner fidati, ritenendo le sue capacità cyber paragonabili a quelle di Mythos. I modelli sono rimasti sotto la revisione del Center for AI Standards and Innovation del Dipartimento del Commercio per dodici giorni, prima di diventare disponibili al pubblico. OpenAI ha definito la misura una necessità del momento, chiarendo però di non volerla vedere diventare la prassi.
Le altre proposte sul tavolo
Il CEO di DeepMind non è il primo dirigente del settore a chiedere regole condivise. All’inizio di luglio anche Sam Altman, in un editoriale sul Financial Times, ha proposto un forum internazionale a guida statunitense che fissi standard di sicurezza e valuti in modo indipendente capacità e rischi dei modelli, citando come riferimento l’Agenzia internazionale per l’energia atomica. Dario Amodei, ceo di Anthropic, spinge da mesi perché i governi possano bloccare la diffusione di tecnologie giudicate pericolose.
Il tema era già emerso al G7 di giugno a Evian, dove Altman, Amodei e Hassabis si sono confrontati con i leader mondiali sul rischio di un “kill switch” americano capace di tagliare fuori gli alleati dall’accesso ai modelli più avanzati: lo stesso Amodei aveva chiesto ai governi democratici di restare uniti sulla governance dell’intelligenza artificiale.
La corsa cinese e l’orizzonte dell’AGI
Sullo sfondo resta la competizione con la Cina: i modelli aperti di Z.ai e DeepSeek continuano ad accorciare le distanze dai concorrenti americani, un fattore che alimenta la pressione per regole condivise tra i paesi alleati. Nel saggio Hassabis si spinge oltre la proposta normativa e descrive un’intelligenza artificiale generale capace di eguagliare le capacità del cervello umano come un traguardo a pochi anni di distanza, una finestra temporale che definisce preziosa per prepararsi ai suoi effetti.
Fonte: Financial Times
