Nei giorni scorsi abbiamo scritto un approfondimento su Ilya Sutskever, co-fondatore e chief scientist di OpenAI che marted’ scorso ha deciso di lasciare l’azienda dopo una serie di turbolenze con Sam Altman.
La sua figura era di particolare importanza non solo perché se oggi il mondo usa ChatGPT, è anche merito suo. Lo era anche perché lo scorso anno aveva contribuito alla creazione del team di Superalignment in OpenAI.
L’obiettivo? Garantire che le future versioni della tecnologia rispettino determinati criteri di sicurezza. Sutskever, come molti altri nel campo, era infatti sempre più preoccupato per i potenziali pericoli dell’IA, in particolare dell’AGI (Intelligenza Artificiale Generale), una tecnologia ancora da realizzare che potrebbe replicare qualsiasi funzione del nostro cervello, svolgendo la maggior parte delle attività allo stesso livello se non meglio degli esseri umani.
Mentre Sutskever voleva procedere con cautela verso l’AGI, il CEO Sam Altman sembrava essere più audace. Questa differenza di vedute ha portato, lo scorso novembre, alla decisione di Sutskever e di altri tre membri del Consiglio di amministrazione di OpenAI di licenziare Altman. Ciò ha dato il via ai ben noti cinque giorni di turbolenze che abbiamo raccontato, col presidente di OpenAI Greg Brockman che si è dimesso in segno di protesta, gli investitori che si sono ribellati e quasi tutti i dipendenti della startup che hanno minacciato di dimettersi a meno che Altman non fosse stato reintegrato.
In un notevole dietrofront, anche Sutskever ha poi firmato la lettera di reintegrazione di Altman e ha detto di essersi pentito del suo coinvolgimento nel licenziamento. Altman è stato reintegrato mentre nei mesi successivi mentre Sutskever è scomparso alla vista del pubblico, alimentando speculazioni sul suo ruolo all’interno dell’azienda. Soprattutto considerando che aveva smesso di lavorare dall’ufficio di OpenAI di San Francisco.
I resigned
— Jan Leike (@janleike) May 15, 2024
Che la sicurezza sia stata la causa della rottura tra Sutskever e Altman, è una speculazione che trova conferma nelle parole di Jan Leike, un altro ex-veterano di OpenAI che ha lavorato con Sutskever nel team Superalignment. E che ha dichiarato che la sua partenza è avvenuta dopo una serie di disaccordi con OpenAI riguardo alle “priorità fondamentali” dell’azienda, ritenendo che non fossero sufficientemente focalizzate sulle misure di sicurezza per la creazione delle AGI.
E i fatti che ci apprestiamo a raccontare, paiono la conferma definitiva di questa tesi. Stando a Bloomberg, infatti, OpenAI ha sciolto il Superalignment integrandolo nei suoi sforzi di ricerca più ampi per raggiungere gli obiettivi di sicurezza dell’azienda.
Sia chiaro, mandare avanti un team senza i suoi due fondatori non è facile per nessuno. Lo stesso Leike ha infatti annunciato la sua partenza il 15 maggio con un breve post sui social media dichiarando: “Mi sono dimesso”. Secondo una fonte anonima, l’uscita di Sutskever sarebbe stata la goccia che ha fatto traboccare il vaso per Leike, dopo vari disaccordi con l’azienda.
D’altronde Leike commentava venerdì su X che “Negli ultimi mesi il mio team ha navigato contro vento. A volte lottavamo per ottenere capacità di calcolo ed era sempre più difficile portare avanti questa ricerca cruciale”. Un’accusa fondata se è vero che ore dopo Sam Altman ha risposto al post ammettendo che c’è ancora molto lavoro da fare e ribadendo l’impegno dell’azienda.
After almost a decade, I have made the decision to leave OpenAI. The company’s trajectory has been nothing short of miraculous, and I’m confident that OpenAI will build AGI that is both safe and beneficial under the leadership of @sama, @gdb, @miramurati and now, under the…
— Ilya Sutskever (@ilyasut) May 14, 2024
Altri membri del team Superalignment hanno lasciato l’azienda negli ultimi mesi. Leopold Aschenbrenner e Pavel Izmailov sono stati licenziati, come riportato da The Information. Izmailov peraltro era già stato spostato dal team prima della sua uscita.
John Schulman, cofondatore di OpenAI e ricercatore sui grandi modelli linguistici, sarà il nuovo responsabile scientifico per il lavoro di allineamento di OpenAI. Separatamente, OpenAI ha annunciato sul suo blog che il Direttore della Ricerca, Jakub Pachocki, assumerà il ruolo di capo scienziato al posto di Sutskever. Altman ha dichiarato di essere sicuro che Pachocki guiderà l’azienda verso progressi rapidi e sicuri nella missione di garantire che l’AGI (Intelligenza Artificiale Generale) benefici tutti.
All’inizio di questa settimana, annunciando la sua partenza nel post che vedete qui sopra, Sutskever si è detto “fiducioso” che OpenAI svilupperà un’AGI “che sia sicura e benefica” sotto l’attuale leadership. Non ci resta che sperare che abbia ragione.
