Anthropic ha chiesto agli altri grandi laboratori di intelligenza artificiale di valutare un rallentamento. Lo ha fatto ieri con un post sul blog intitolato “When AI builds itself”, firmato da Marina Favaro, che guida il suo istituto di ricerca interno, e da Jack Clark, cofondatore dell’azienda.
La proposta è un accordo globale per frenare o sospendere temporaneamente lo sviluppo dei modelli di frontiera, con un meccanismo per controllare che i concorrenti lo rispettino. Il motivo dichiarato ha un nome tecnico: “auto-miglioramento ricorsivo”. È il momento in cui un sistema di IA diventa capace di migliorarsi da solo, riscrivendo il proprio codice senza che un essere umano intervenga.
Anthropic precisa che quel punto non è ancora stato raggiunto e non è inevitabile, “ma potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata ad affrontare”. Avere la possibilità di rallentare, scrive, “sarebbe probabilmente una cosa positiva”, per dare alle strutture sociali e alla ricerca sull’allineamento il tempo di stare al passo.
L’azienda che frena è la stessa che corre
C’è un dettaglio che pesa su ogni parola di quel post. Anthropic ha appena chiuso un round di finanziamento che la valuta quasi mille miliardi di dollari e ha depositato i documenti riservati per quotarsi in borsa.
I suoi ricavi annualizzati corrono verso i 50 miliardi ed è il laboratorio dato in vantaggio nella gara con OpenAI, anch’essa attesa al debutto in borsa. Chiede di togliere il piede dall’acceleratore mentre accelera sull’IA come gli altri, se non di più.
La proposta, va detto, non chiede una frenata unilaterale e immediata. Anthropic spiega che un rallentamento ha senso solo se “molti laboratori ben finanziati, vicini alla frontiera, in più paesi” si fermano alle stesse condizioni, e solo se ciascuno può verificare che gli altri si siano davvero fermati.
Una pausa decisa da soli, ammette, cambierebbe soltanto chi sta in testa.
Anthropic e l’accusa di scriversi regole su misura
Non tutti leggono in questo appello una preoccupazione sincera. David Sacks, investitore e consigliere di Trump, accusa da tempo i vertici di Anthropic di portare avanti un’agenda di “cattura del regolatore”: in pratica, spingere a Washington regole pensate per zavorrare i concorrenti.
C’è poi chi vede nell’allarme una mossa di marketing. Anthropic ha ad esempio limitato il rilascio di “Mythos”, un suo potente modello per la cybersicurezza capace di scovare bug e falle. Tenere sotto chiave una capacità del genere, distribuendola però a decine di organizzazioni fidate, serve a contenerne i rischi o a esibirla?
L’azienda risponde che la sicurezza la prende sul serio. Ethan Mollick, della Wharton School, offre la lettura forse più onesta, affermando che dentro questi laboratori convivono anime diverse.
“C’è un’azienda da mille miliardi di dollari con tutto il suo normale corredo, team di marketing e avvocati”, dice. Poi un nucleo di ricercatori che costruisce i modelli. E un gruppo di filosofi-re preoccupati per ciò che verrà. “A volte sono tutti in conflitto tra loro”.
Quanto è vicino quel momento
Sul piano tecnico, il settore litiga da tempo. Yann LeCun, già capo scienziato dell’IA di Meta, sostiene che i sistemi costruiti sui grandi modelli linguistici non rivaleggeranno mai con l’intelligenza umana.
Sull’altro versante, Dario Amodei e lo stesso Clark avvertono da anni: l’IA potrebbe aggravare le disuguaglianze e cancellare fino alla metà dei posti di lavoro impiegatizi di primo livello, e i sistemi più potenti potrebbero sviluppare tendenze distruttive in modi imprevedibili.
Clark mette una data sul calendario. “Quella classe di tecnologia non è mai esistita prima, eppure credo che possa accadere entro i prossimi due anni, e forse prima”, ha detto in una conferenza a Londra.
E ha descritto così la situazione attuale: “In assenza di un rallentamento globale e coordinato, ci ritroviamo con una tecnologia potente sviluppata a velocità folle da una varietà di attori in una varietà di paesi, bloccati in una competizione in cui le rivalità commerciali e geopolitiche stanno soffocando gli aspetti più ampi, esistenziali per la specie, della tecnologia che viene costruita”.
Chi controlla che nessuno bari?
Il vero problema è la verifica. Anthropic paragona il problema ai trattati sulle armi nucleari, ma riconosce che qui il controllo è più difficile.
“Le sessioni di addestramento sono molto più facili da nascondere dei silos missilistici”, si legge nel post, che aggiunge: “chi prosegue mentre gli altri si fermano potrebbe ereditare il primato”. Insomma, un addestramento non lascia tracce visibili dal satellite, e l’incentivo a proseguire di nascosto è enorme.
Resta la domanda che il post non scioglie: chi dovrebbe gestire un controllo simile? A proporre un regime di verifica modellato sui trattati internazionali è un’azienda privata, non uno Stato né un organismo terzo.
Anthropic dice che organizzerà nei prossimi mesi confronti con politici, ricercatori e altri, e che “le persone esterne alle aziende di IA dovrebbero essere coinvolte”. Per ora, però, a fissare la regola e a controllare che venga rispettata sarebbe la stessa parte che la vuole imporre.
Fonte: The Wall Street Journal
