Elon Musk non ha semplicemente previsto che l’IA diventerà più intelligente degli esseri umani. Ha detto qualcosa di molto più rilevante: “tra circa cinque anni potrebbe superare la somma dell’intelligenza dell’intera umanità e, nel giro di un decennio, è improbabile che saremo ancora noi a mantenere il controllo”.
L’affermazione è arrivata nel corso di un’intervista con Zanny Minton Beddoes, direttrice dell’Economist. Il titolo scelto dalla testata britannica non lascia molto spazio alle interpretazioni: “Elon Musk on AI: humans will no longer be in control in ten years”.
Ma il punto più interessante dell’intervista non è nemmeno la previsione. Musk ci ha abituati da tempo a orizzonti temporali insoliti, soprattutto quando parla di intelligenza artificiale, robotica, guida autonoma o colonizzazione di Marte. La notizia piuttosto è il modo in cui sembra essersi rassegnato alla possibilità che l’umanità perda il controllo della tecnologia.
Più intelligenti di tutta l’umanità
Secondo Musk, entro cinque anni non ci sarà praticamente più nulla che un’intelligenza artificiale non sappia fare meglio di un essere umano, “a parte forse essere umana”. Non chiarisce, però, attraverso quale parametro sia possibile sommare l’intelligenza di otto miliardi di persone e confrontarla con quella di un sistema artificiale.
La frase serve soprattutto a rappresentare la distanza che, secondo Musk, si creerà tra noi e le macchine. E per spiegarla ricorre al paragone con gli scimpanzé.
Se la differenza tra l’intelligenza artificiale e quella umana diventasse molto più ampia di quella che separa gli esseri umani dagli scimpanzé, sostiene, sarebbe difficile immaginare che a comandare possano continuare a essere gli esseri meno intelligenti. Allo stesso modo in cui la specie dominante non sono le scimmie ma gli uomini.
Ma cosa significa esattamente “non essere più al comando”? Musk potrebbe riferirsi alla capacità di dirigere la ricerca scientifica, prendere decisioni economiche, controllare le infrastrutture oppure potrebbe riferirsi a quegli scenari apocalittici visti più volte nella fantascienza. Nell’intervista comunque non lo precisa.
In compenso, torna a descrivere come scenario più probabile quello cui ha già accennato in passato, ovvero una “epoca di straordinaria abbondanza”, nella quale chiunque potrà ottenere qualsiasi cosa riesca a immaginare. Nel 2036, sostiene, potremmo ritrovarci in un mondo radicalmente diverso da quello attuale, a meno che una guerra termonucleare globale non faccia precipitare tutto.
“Godiamoci il viaggio”
Musk in questa intervista non ha ritirato le sue precedenti valutazioni sul rischio esistenziale dell’IA. Alla domanda se ritenga ancora possibile che robot e intelligenze artificiali possano portare alla scomparsa dell’umanità, indica una probabilità compresa tra il 10 e il 20 per cento.
È una percentuale enorme, tant’è che l’intervistatrice gli chiede se salirebbe su uno dei suoi razzi sapendo che esiste una possibilità su cinque che esploda. Musk risponde che sull’IA siamo già tutti a bordo e che non esiste la possibilità di scegliere di non partire.
In passato Musk si presentava come uno degli imprenditori maggiormente preoccupati dai pericoli dell’intelligenza artificiale. Ora afferma di non vedere alcun modo per fermarne la “inesorabile avanzata” e arriva a sostenere che, anche se esistesse un pulsante per interrompere tutto, probabilmente non dovremmo premerlo.
Il suo ragionamento è fatalista. Lo sviluppo dell’IA non può essere fermato; il rischio di una catastrofe non può essere eliminato; il risultato più probabile, secondo Musk, resta comunque positivo. A questo punto non rimane che cercare di ridurre le probabilità dello scenario peggiore e sperare nell’abbondanza.
In altre parole, uno degli uomini che stanno investendo più denaro e risorse nella costruzione di sistemi sempre più potenti, riconosce che questi sistemi potrebbero sottrarci il controllo. Ma sostiene anche che ormai non esista più una vera alternativa alla loro accelerazione.
I concorrenti dovrebbero controllarsi a vicenda
Per mitigare i rischi dell’intelligenza artificiale, Musk non propone una regolamentazione tradizionale. La sua idea è che le principali aziende del settore si incontrino, o almeno organizzino una chiamata ogni settimana, massimo due, per discutere di sicurezza.
I laboratori rivali dovrebbero inoltre ricevere una o due settimane di accesso anticipato ai nuovi modelli altrui di frontiera. OpenAI potrebbe quindi esaminare un sistema di Google DeepMind, Anthropic potrebbe valutare un modello di xAI e così via.
Il principio è che i concorrenti possiedono competenze tecniche che i governi non hanno e, soprattutto, un forte incentivo a individuare e denunciare i problemi dei propri rivali. Se un laboratorio segnalasse un rischio concreto e l’azienda responsabile del modello non intervenisse, a quel punto dovrebbe entrare in gioco il governo.
La proposta nasce anche dal confronto tra Musk e Demis Hassabis. Il numero uno di Google DeepMind ha recentemente chiesto la creazione di un organismo dedicato ai modelli di frontiera, finanziato dall’industria ma sottoposto a supervisione federale, sul modello della Financial Industry Regulatory Authority statunitense.
L’organismo dovrebbe testare i sistemi più avanzati prima della pubblicazione e potrebbe imporre un rallentamento qualora emergessero rischi rilevanti. Musk immagina un meccanismo ancora più informale e immediato, basato sul controllo reciproco tra aziende.
Ma la soluzione appare problematica. Un concorrente avrebbe accesso anticipato a tecnologie potenzialmente coperte da segreto industriale e potrebbe avere interesse a ritardarne l’uscita non soltanto per ragioni di sicurezza.
Musk ribalta questa obiezione: è il conflitto di interessi, secondo lui, a far funzionare il sistema. Le aziende non avrebbero alcuna esitazione a denunciare i rischi presenti nei modelli rivali.
Musk: “Tutte le strade portano all’accelerazione”
Musk ribadisce di aver evitato a lungo di partecipare direttamente alla corsa all’IA e di aver contribuito alla nascita di OpenAI come contrappeso a Google, che all’epoca considerava in una posizione quasi monopolistica.
Il risultato, però, sarebbe stato l’opposto di quello sperato. Dopo la nascita di OpenAI, ecco verificarsi il distacco del gruppo che avrebbe poi fondato Anthropic e la crescente competizione tra i laboratori. Tutte cose che avrebbero prodotto una serie di effetti a catena, accelerando ulteriormente lo sviluppo dell’intelligenza artificiale.
Iscriviti alla newsletter di TechTalking
“Non era davvero mia intenzione”, ammette Musk (che poi non ha risparmiato i consueti attacchi a Sam Altman). La conclusione alla quale dice di essere arrivato è che qualunque tentativo di intervenire sulla corsa finisce per renderla ancora più veloce: “Sembra che tutte le strade portino all’accelerazione dell’IA”.
A quel punto, sostiene Musk, si può restare a guardare dall’esterno con amarezza oppure unirsi alla corsa. Lui ha scelto la seconda strada con xAI e Grok.
Fonte: The Economist
