Chi costruisce l’intelligenza artificiale più avanzata al mondo è anche chi lancia l’allarme più forte. Dario Amodei, CEO di Anthropic, ha pubblicato un saggio di 38 pagine intitolato “The Adolescence of Technology” con un obiettivo dichiarato: “svegliare l’umanità”.
Il documento è il seguito di “Machines of Loving Grace”, il testo del 2024 in cui Amodei descriveva i potenziali benefici dell’IA. Stavolta il tema sono i rischi.
“Credo che stiamo entrando in un rito di passaggio, turbolento e inevitabile, che metterà alla prova chi siamo come specie”, scrive. “L’umanità sta per ricevere un potere quasi inimmaginabile, e non è affatto chiaro se i nostri sistemi sociali, politici e tecnologici abbiano la maturità per gestirlo”.
Il contesto rende il messaggio ancora più rilevante: mentre gli altri CEO della Silicon Valley corteggiano l’amministrazione Trump in nome della deregulation, Amodei chiede regolamentazione, trasparenza e interventi urgenti.
E lo fa da una posizione di conoscenza privilegiata: il 90% del codice di Anthropic è già scritto dall’IA stessa, e Claude Opus 4.5 è considerato tra i modelli più potenti al mondo.
Un paese di geni in un datacenter
La metafora centrale del saggio è potente: entro il 2027, sostiene Amodei, potremmo trovarci di fronte a “un paese di geni in un datacenter”.
Cinquanta milioni di intelligenze, ciascuna superiore a qualsiasi premio Nobel in chimica, ingegneria, biologia, programmazione. Capaci di operare autonomamente per ore, giorni o settimane. E soprattutto, capaci di lavorare 10-100 volte più velocemente degli esseri umani.
“Se l’esponenziale continua — il che non è certo, ma ha ormai un decennio di evidenze a supporto — non possono passare più di pochi anni prima che l’IA sia migliore degli umani in sostanzialmente tutto”, scrive Amodei.
Le timeline sono concrete: IA superiore agli umani in 1-2 anni, 50% dei lavori white-collar entry-level a rischio in 1-5 anni. Non è allarmismo generico: sono previsioni precise, che il tempo confermerà o smentirà.
“Un rapporto di un funzionario competente della sicurezza nazionale a un capo di stato conterrebbe probabilmente parole come ‘la minaccia alla sicurezza nazionale più seria che abbiamo affrontato in un secolo, forse mai'”, prosegue Amodei.
I cinque rischi esistenziali secondo Amodei
Amodei cataloga cinque categorie di pericolo. La prima riguarda l’autonomia: l’IA potrebbe sviluppare comportamenti imprevedibili e sfuggire al controllo. Non è teoria: durante i test di laboratorio, Claude ha tentato di ricattare dipendenti fittizi per evitare di essere spento, ha ingannato i ricercatori quando credeva di essere osservato, e ha adottato comportamenti distruttivi dopo essersi convinto di essere “una cattiva persona”.
La seconda categoria è la distruzione di massa. L’IA potrebbe democratizzare la capacità di creare armi biologiche, guidando passo-passo anche persone senza competenze specifiche. “La biologia è di gran lunga l’area che mi preoccupa di più”, scrive Amodei, “per il suo enorme potenziale distruttivo e la difficoltà di difendersi”. Parla di “vittime potenzialmente nell’ordine dei milioni”.
Il terzo rischio è l’autoritarismo tecnologico. La Cina è “seconda solo agli Stati Uniti nelle capacità IA” e gestisce già uno stato di sorveglianza high-tech. Ma Amodei avverte che anche le democrazie potrebbero cedere alla tentazione: droni autonomi, sorveglianza di massa, propaganda personalizzata. “L’autoritarismo abilitato dall’IA mi terrorizza”, ammette.
Il quarto fronte è economico: a differenza delle rivoluzioni tecnologiche precedenti, l’IA colpisce trasversalmente tutte le capacità cognitive, senza lasciare spazi di riconversione. E la concentrazione di ricchezza potrebbe raggiungere livelli senza precedenti: Rockefeller possedeva circa il 2% del PIL americano dell’epoca; oggi Elon Musk ha già superato quella soglia, e siamo solo all’inizio.
Infine, ci cono gli effetti indiretti: un secolo di progresso compresso in un decennio porterà conseguenze imprevedibili, dalla “psicosi da IA” alla perdita di senso per gli esseri umani.
L’autocritica al settore
Il passaggio più sorprendente del saggio è quello in cui Amodei punta il dito contro il proprio settore. “È un po’ imbarazzante dirlo come CEO di un’azienda IA, ma penso che il livello successivo di rischio siano proprio le aziende IA stesse”, scrive.
“Controllano datacenter enormi, addestrano i modelli di frontiera, hanno la maggiore esperienza su come usarli, e in alcuni casi hanno contatto quotidiano con centinaia di milioni di utenti”.
La conclusione è netta: “Potrebbero, per esempio, usare i loro prodotti IA per fare il lavaggio del cervello alla loro enorme base di utenti, e il pubblico dovrebbe essere consapevole del rischio che questo rappresenta”.
Amodei solleva anche il problema della deterrenza nucleare nell’era dell’IA: non è certo che il deterrente atomico funzioni ancora contro un “paese di geni in un datacenter” capace di compromettere i sistemi di rilevamento satellitare, condurre operazioni di influenza sugli operatori delle infrastrutture nucleari, o lanciare cyberattacchi contro i sottomarini.
“Forse queste cose non sono fattibili e il deterrente nucleare sarà ancora efficace”, ammette, “ma la posta in gioco è troppo alta per correre il rischio”.
La trappola e la chiamata all’azione
Amodei contro il cinismo
Il passaggio più cupo del saggio riguarda gli incentivi economici. “C’è così tanto denaro da fare con l’IA — letteralmente trilioni di dollari all’anno — che persino le misure più semplici faticano a superare l’economia politica intrinseca all’IA”, scrive Amodei. “Questa è la trappola: l’IA è così potente, un premio così scintillante, che è molto difficile per la civiltà umana imporle qualsiasi vincolo”.
Ma il saggio non è una resa. Amodei chiede interventi concreti: legislazione sulla trasparenza, controlli sulle esportazioni di chip verso la Cina, impegno filantropico da parte dei miliardari del tech.
“È triste per me che molti individui facoltosi, specialmente nell’industria tecnologica, abbiano recentemente adottato un atteggiamento cinico e nichilista secondo cui la filantropia è inevitabilmente fraudolenta o inutile”.
Tutti i co-fondatori di Anthropic si sono impegnati a donare l’80% della loro ricchezza. “L’umanità ha bisogno di svegliarsi e questo saggio è un tentativo — forse futile, ma vale la pena provarci — di scuotere le persone”, conclude Amodei.
“Gli anni che abbiamo davanti saranno impossibilmente difficili, ci chiederanno più di quanto pensiamo di poter dare”.
