OpenAI scioglie il team di sicurezza dopo l’uscita di Sutskever

da | 19 Mag 2024 | IA

Nei giorni scorsi abbiamo scritto un approfondimento su Ilya Sutskever, co-fondatore e chief scientist di OpenAI che marted’ scorso ha deciso di lasciare l’azienda dopo una serie di turbolenze con Sam Altman.

La sua figura era di particolare importanza non solo perché se oggi il mondo usa ChatGPT, è anche merito suo. Lo era anche perché lo scorso anno aveva contribuito alla creazione del team di Superalignment in OpenAI.

L’obiettivo? Garantire che le future versioni della tecnologia rispettino determinati criteri di sicurezza. Sutskever, come molti altri nel campo, era infatti sempre più preoccupato per i potenziali pericoli dell’IA, in particolare dell’AGI (Intelligenza Artificiale Generale), una tecnologia ancora da realizzare che potrebbe replicare qualsiasi funzione del nostro cervello, svolgendo la maggior parte delle attività allo stesso livello se non meglio degli esseri umani.

Mentre Sutskever voleva procedere con cautela verso l’AGI, il CEO Sam Altman sembrava essere più audace. Questa differenza di vedute ha portato, lo scorso novembre, alla decisione di Sutskever e di altri tre membri del Consiglio di amministrazione di OpenAI di licenziare Altman. Ciò ha dato il via ai ben noti cinque giorni di turbolenze che abbiamo raccontato, col presidente di OpenAI Greg Brockman che si è dimesso in segno di protesta, gli investitori che si sono ribellati e quasi tutti i dipendenti della startup che hanno minacciato di dimettersi a meno che Altman non fosse stato reintegrato.

In un notevole dietrofront, anche Sutskever ha poi firmato la lettera di reintegrazione di Altman e ha detto di essersi pentito del suo coinvolgimento nel licenziamento. Altman è stato reintegrato mentre nei mesi successivi mentre Sutskever è scomparso alla vista del pubblico, alimentando speculazioni sul suo ruolo all’interno dell’azienda. Soprattutto considerando che aveva smesso di lavorare dall’ufficio di OpenAI di San Francisco.

Che la sicurezza sia stata la causa della rottura tra Sutskever e Altman, è una speculazione che trova conferma nelle parole di Jan Leike, un altro ex-veterano di OpenAI che ha lavorato con Sutskever nel team Superalignment. E che ha dichiarato che la sua partenza è avvenuta dopo una serie di disaccordi con OpenAI riguardo alle “priorità fondamentali” dell’azienda, ritenendo che non fossero sufficientemente focalizzate sulle misure di sicurezza per la creazione delle AGI.

E i fatti che ci apprestiamo a raccontare, paiono la conferma definitiva di questa tesi. Stando a Bloomberg, infatti, OpenAI ha sciolto il Superalignment integrandolo nei suoi sforzi di ricerca più ampi per raggiungere gli obiettivi di sicurezza dell’azienda.

Sia chiaro, mandare avanti un team senza i suoi due fondatori non è facile per nessuno. Lo stesso Leike ha infatti annunciato la sua partenza il 15 maggio con un breve post sui social media dichiarando: “Mi sono dimesso”. Secondo una fonte anonima, l’uscita di Sutskever sarebbe stata la goccia che ha fatto traboccare il vaso per Leike, dopo vari disaccordi con l’azienda.

D’altronde Leike commentava venerdì su X che “Negli ultimi mesi il mio team ha navigato contro vento. A volte lottavamo per ottenere capacità di calcolo ed era sempre più difficile portare avanti questa ricerca cruciale”. Un’accusa fondata se è vero che ore dopo Sam Altman ha risposto al post ammettendo che c’è ancora molto lavoro da fare e ribadendo l’impegno dell’azienda.

Altri membri del team Superalignment hanno lasciato l’azienda negli ultimi mesi. Leopold Aschenbrenner e Pavel Izmailov sono stati licenziati, come riportato da The Information. Izmailov peraltro era già stato spostato dal team prima della sua uscita.

John Schulman, cofondatore di OpenAI e ricercatore sui grandi modelli linguistici, sarà il nuovo responsabile scientifico per il lavoro di allineamento di OpenAI. Separatamente, OpenAI ha annunciato sul suo blog che il Direttore della Ricerca, Jakub Pachocki, assumerà il ruolo di capo scienziato al posto di Sutskever. Altman ha dichiarato di essere sicuro che Pachocki guiderà l’azienda verso progressi rapidi e sicuri nella missione di garantire che l’AGI (Intelligenza Artificiale Generale) benefici tutti.

All’inizio di questa settimana, annunciando la sua partenza nel post che vedete qui sopra, Sutskever si è detto “fiducioso” che OpenAI svilupperà un’AGI “che sia sicura e benefica” sotto l’attuale leadership. Non ci resta che sperare che abbia ragione.

POTREBBE INTERESSARTI

Jen-Hsun Huang durante una presentazione di Nvidia

Nvidia batte Microsoft ed è la società che vale di più al mondo

Spinta dal crescente interesse nel comparto dell'intelligenza artificiale, settore in cui è leader grazie ai suoi processori di fascia alta, Nvidia ha infranto un nuovo...
Il segretario della NATO Jens Stoltenberg

La NATO investe mille miliardi di euro in IA, robot e spazio

La NATO investe mille miliardi di euro in 4 aziende specializzate in tecnologia per lo sviluppo di IA, robotica e ingegneria spaziale.

I robots di Ex-Robots

In Cina stanno costruendo robot con espressioni facciali umane

L’ultima frontiera della tecnologia fonde la robotica con l’intelligenza artificiale. L’obiettivo è quello di usare l’IA per dare ai robot...
Sam Altman potrebbe trasformare OpenAI in una società benefit foto: Joel Saget/AFP/Getty Images

OpenAI potrebbe diventare una società benefit (e perseguire il profitto)

OpenAI, per competete al meglio contro Anthropic e xAI, potrebbe cessare di essere una no-profit. E c’è già chi come passo successivo s’immagina...
NVIDIA lancia Nemotron-4 340B per la generazione di dati sintetici

NVIDIA lancia Nemotron-4 340B per la generazione di dati sintetici

La famiglia di modelli Nemotron-4 340B servirà per l’addestramento dei degli LLM in tutti quei casi in cui i dati reali sono costosi, difficili da ottenere o...
Ai giovani piace l'idea di affidarsi all'IA per gestire il proprio denaro

Giovani e IA: è una nuova era per la gestione finanziaria?

A Generazione Z e Millennials piace l’idea di affidarsi all’IA per gestire il proprio denaro. Scettici invece Generazione X e i Baby Boomers.

Meta sospende il lancio dei modelli di IA in Europa

Meta sospende il lancio dei modelli di IA in Europa

La scelta è dovuta alla richiesta dell’Irlanda. Delusa Meta, soddisfatte NYOB, DPC e ICO.

Dream Machine è in grado di generare 120 fotogrammi di video in 120 secondi

Dream Machine: il text-to-video di Luma Labs è già disponibile

Dream Machine è in grado di generare 120 fotogrammi di video in 120 secondi.

I robot Optimus di Tesla starebbero già lavorando in fabbrica senza intervento umano
,

Tesla rivela che due robot Optimus già lavorano… autonomamente

I robot Optimus di Tesla starebbero già lavorando in fabbrica senza intervento umano. Saranno in vendita dal prossimo anno.

di Apple Intelligence vedrà la collaborazione tra Apple e OpenAI.
,

Apple Intelligence: come funzionerà l’accordo con OpenAI?

Superato l’annuncio della WWDC 2024, restano aperti molti interrogativi non solo sul presente ma anche sul futuro di Apple Intelligence. Ecco quali…

Share This