In un’escalation delle preoccupazioni sulla sicurezza dell’intelligenza artificiale, un gruppo bipartisan di senatori statunitensi ha preso di mira OpenAI chiedendo chiarimenti sulle sue pratiche di sicurezza e sui suoi impegni etici.
La lettera, guidata dal senatore Brian Schatz (D-Hawaii), è stata inviata al CEO di OpenAI, Sam Altman. I legislatori chiedono dettagli su come l’azienda intenda mantenere i suoi “impegni pubblici” per garantire che la sua IA non causi danni e le preoccupazioni spaziano dal potenziale uso improprio dell’IA per creare armi biologiche o nuovi tipi di attacchi informatici, alla trasparenza nei test di sicurezza dei nuovi modelli IA.
La lettera, che potete consultare a questo link, delinea affronta vari punti, tra cui l’impegno di OpenAI a dedicare il 20% della sua potenza di calcolo per alimentare la ricerca sulla sicurezza e i protocolli necessari a impedire a un attore malevolo o a un avversario straniero di rubare i prodotti di IA da OpenAI.
Questa mossa arriva in seguito a un rapporto del Washington Post che ha rivelato come OpenAI avrebbe affrettato i test di sicurezza del suo ultimo modello, GPT-4 Omni, per rispettare una scadenza di maggio. Questa fretta ha sollevato preoccupazioni tra i dipendenti e ha messo in discussione l’adesione di OpenAI al suo impegno sulla sicurezza del luglio 2023 con la Casa Bianca.
In risposta alle accuse, Liz Bourgeois, portavoce di OpenAI, ha dichiarato: “Non abbiamo tagliato gli angoli nel nostro processo di sicurezza, anche se riconosciamo che il lancio è stato stressante per i nostri team.” L’azienda afferma di prendere seriamente il suo ruolo nello sviluppo di un’IA sicura e di continuare a collaborare con i legislatori.
La lettera dei senatori tocca anche altri punti critici, come la possibilità di valutazioni indipendenti dei sistemi di OpenAI prima della release di una nuova versione. Inoltre, i legislatori chiedono informazioni sui rischi osservati dopo il rilascio dei recenti modelli di linguaggio dell’azienda.
Questa situazione si inserisce in un contesto più ampio di dibattito sulla regolamentazione dell’IA. Mentre il Congresso fatica a produrre una legislazione completa, l’amministrazione Biden si è affidata principalmente a impegni volontari da parte delle aziende di IA. Con le elezioni del 2024 all’orizzonte, le possibilità di una legislazione completa sull’IA quest’anno sembrano diminuire.
La risposta di OpenAI a queste richieste, attesa entro il 13 agosto, potrebbe avere implicazioni significative non solo per l’azienda, ma per l’intero settore dell’IA e il suo futuro rapporto con i regolatori governativi. La pressione su aziende come OpenAI per garantire la sicurezza e l’etica dei loro prodotti IA continua a crescere, e questa lettera dei senatori segna un altro passo importante in questo dibattito in corso.
