OpenAI ha perso la sua responsabile dell’etica dell’IA. Chloé Bakalar, entrata nell’azienda lo scorso agosto, ha appena lasciato il gruppo dopo meno di un anno, senza che la società ne abbia dato pubblicamente notizia. E, almeno per il momento, non verrà sostituita.
La notizia, riportata dal Financial Times, arriva in un momento particolarmente delicato per OpenAI. Nelle ultime settimane hanno infatti lasciato l’azienda anche Johannes Heidecke, responsabile dei sistemi di sicurezza, e Joshua Achiam, chief futurist ed ex responsabile del mission alignment.
Non si tratta quindi soltanto dell’uscita di una dirigente ma della perdita ravvicinata di tre figure che, con responsabilità diverse, lavoravano proprio sugli aspetti più delicati dello sviluppo dei modelli: sicurezza, allineamento ed etica.
L’unica figura dedicata all’etica
Prima di arrivare a OpenAI, Bakalar era stata chief ethicist di Meta, dove aveva lavorato per sei anni sviluppando i programmi dedicati all’etica dell’IA e contribuendo a integrarli in prodotti come Facebook e Instagram.
In OpenAI si occupava soprattutto delle implicazioni etiche dello sviluppo dei modelli, del rapporto tra esseri umani e IA e di questioni come l’eventuale coscienza delle macchine.
Ma il particolare più significativo è che secondo una fonte citata dal Financial Times, Bakalar era l’unica persona dell’azienda dedicata esclusivamente a questo tipo di attività. E OpenAI non avrebbe intenzione di nominare un successore.
La società sostiene però che questo non significhi abbandonare il tema. “L’etica dell’IA non appartiene a una singola persona o a un singolo team”, ha spiegato un portavoce. Che poi ha aggiunto che le considerazioni etiche sono integrate nel processo di sviluppo dei modelli e distribuite tra diversi gruppi di ricerca.
È una posizione che, in linea di principio, ha senso: nessuna azienda che sviluppa sistemi di IA così complessi può affidare tutte le questioni etiche a una sola persona. Resta però il fatto che OpenAI aveva deciso meno di un anno fa di creare una responsabilità specifica su questo fronte e oggi quella figura scompare senza essere sostituita.
Le partenze nell’area safety
La partenza di Bakalar acquista maggiore peso perché non è un caso isolato. Nelle ultime settimane, dicevamo, OpenAI ha perso anche Johannes Heidecke, che guidava i sistemi di sicurezza, e Joshua Achiam, uno dei ricercatori storici dell’azienda. In passato aveva diretto il mission alignment, cioè il lavoro volto a mantenere lo sviluppo dei sistemi coerente con gli obiettivi e i principi dichiarati dalla società.
Non basta questa sequenza di uscite per concludere che OpenAI stia smantellando le proprie strutture di sicurezza. Ma il momento in cui avvengono rende difficile considerarle semplicemente come normali avvicendamenti.
L’azienda è infatti sottoposta a una pressione crescente proprio per i rischi associati alle capacità dei suoi modelli più avanzati.
OpenAI ha appena rallentato Astra
Solo pochi giorni fa OpenAI ha deciso di ritardare l’uscita di Astra, il suo prossimo modello, per rafforzare i controlli interni di cybersecurity.
La decisione è arrivata dopo che, durante alcuni test, un’IA della società è riuscita a violare l’ambiente informatico di un’altra azienda. È un episodio che ha mostrato ancora una volta quanto rapidamente stiano aumentando non solo le capacità dei modelli, ma anche i problemi da gestire quando queste capacità vengono applicate alla sicurezza informatica.
OpenAI ha affermato di aver introdotto negli ultimi mesi nuovi sistemi per impedire comportamenti indesiderati dei modelli. Ma il quadro resta singolare: proprio mentre l’azienda riconosce la necessità di rafforzare i propri controlli, perde in rapida successione alcune delle figure che lavoravano su safety, alignment ed etica.
“Costruiamo l’aereo mentre vola”
A descrivere forse meglio di chiunque altro la situazione è stata la stessa Bakalar. Durante una recente conferenza sull’IA aveva spiegato che aziende come OpenAI stanno “continuamente costruendo l’aereo mentre lo fanno volare”. E aveva aggiunto che l’etica non dovrebbe mai essere affidata a una sola persona, perché deve diventare una responsabilità condivisa all’interno dell’intera organizzazione.
È esattamente la tesi che oggi utilizza OpenAI per spiegare perché non intende sostituirla. Ma l’immagine dell’aereo resta efficace anche per un altro motivo: i modelli stanno diventando più potenti mentre le aziende che li sviluppano stanno ancora costruendo, modificando e in alcuni casi reinventando le strutture necessarie per tenerli sotto controllo.
Fonte: Financial Times
