Il Pentagono voleva una versione dell’IA di OpenAI progettata per la sicurezza nazionale e capace di dire “no” il meno possibile.
La richiesta compare nero su bianco in un documento ottenuto da The Intercept attraverso una causa basata sul Freedom of Information Act. La formula utilizzata è “minimal refusal rates”, cioè “tassi minimi di rifiuto”.
Nel documento, gli “OpenAI Mission Models” vengono definiti come modelli “progettati per casi d’uso di sicurezza nazionale” e caratterizzati appunto da un numero minimo di richieste respinte.
OpenAI sostiene però di non aver mai accettato quella condizione. “OpenAI non ha mai accettato una formulazione contrattuale che imponesse ‘tassi minimi di rifiuto’. Questa formulazione non compare nel nostro contratto sottoscritto”, ha dichiarato il portavoce Nate Evans.
Secondo l’azienda, si trattava di una bozza proposta dal Pentagono e successivamente respinta.
Il documento in cui compare la richiesta di una versione della tecnologia OpenAI con “tassi minimi di rifiuto”, in giallo. | Foto: Dipartimento della Difesa
Il documento che non doveva essere una bozza
Qui però inizia la parte più strana della storia. The Intercept aveva chiesto espressamente al Pentagono soltanto i contratti definitivi e sottoscritti, escludendo le bozze. Il documento ricevuto non risulta inoltre contrassegnato come tale.
Quando la testata ha chiesto chiarimenti, un avvocato del Dipartimento di Giustizia che rappresenta il Pentagono ha inizialmente confermato che quella con i “minimal refusal rates” fosse effettivamente la versione firmata del contratto.
Poche ore dopo, però, ha ritrattato. Il Pentagono ha chiesto di ignorare la precedente conferma e, successivamente, ha sostenuto che il documento non fosse quello definitivo.
Il portavoce Jacob Bliss ha dichiarato che la frase “minimal refusal rates” non compare in nessun contratto attivo con OpenAI. Nel frattempo, la versione che dovrebbe chiarire definitivamente la vicenda non è stata resa pubblica.
Cosa significa un’IA che rifiuta meno richieste
Il concetto di “rifiuto” è semplice. I modelli commerciali come ChatGPT possiedono guardrail che impediscono loro di rispondere a determinate richieste.
Per esempio, se si chiede alla versione pubblica di ChatGPT di fornire istruzioni operative per costruire un ordigno o aggirare i sistemi di sicurezza di un’arma, il modello tende a rifiutare la richiesta per ragioni di sicurezza.
Un modello destinato alle forze armate deve necessariamente operare in un contesto molto diverso da quello di un chatbot per il grande pubblico. Ma la questione è quanto diversi debbano essere i suoi limiti e, soprattutto, chi debba deciderli.
Heidy Khlaaf, chief scientist dell’AI Now Institute ed ex systems safety engineer di OpenAI, interpreta la formula utilizzata dal Pentagono in modo netto: “‘Rifiuto minimo’ probabilmente significa che il modello utilizzato abbia poche o nessuna misura di sicurezza”.
I documenti, però, non spiegano quali richieste il Pentagono volesse che i modelli smettessero di respingere.
OpenAI e il precedente Anthropic
Il caso di queste ore arriva dopo mesi di battaglia tra il Pentagono e Anthropic proprio sul diritto delle aziende di IA di imporre limiti all’utilizzo militare dei propri modelli.
Anthropic aveva accettato l’uso di Claude da parte delle forze armate, ma aveva mantenuto due linee rosse: niente sorveglianza di massa degli americani e niente armi completamente autonome. Il Pentagono pretendeva invece la possibilità di utilizzare i modelli per tutti gli impieghi consentiti dalla legge.
Lo scontro ha portato il governo a classificare Anthropic come rischio per la catena di approvvigionamento, una decisione che, come abbiamo raccontato, un giudice federale ha annullato a fine agosto.
OpenAI ha raggiunto invece un accordo con il Pentagono per portare i propri modelli sulle reti militari classificate. L’azienda sostiene di aver mantenuto i propri sistemi di sicurezza e di aver ottenuto garanzie contro armi autonome letali e sorveglianza domestica.
Ma i limiti restano nascosti
Il problema è che verificare dove siano oggi quei confini è difficile. Il 27 febbraio OpenAI ha firmato una nuova versione dell’accordo per l’utilizzo dei propri servizi sulle reti classificate.
Il documento mantiene una sezione dedicata al “Testing, Evaluation, and Refinement of OpenAI Mission Models”, la stessa definizione sotto la quale è comparsa la formula sui tassi minimi di rifiuto. Questa volta, però, il contenuto della sezione è completamente oscurato.
Sappiamo che il Pentagono ha chiesto esplicitamente modelli di OpenAI che dicessero “no” il meno possibile. OpenAI afferma di avere respinto quella formulazione e di aver mantenuto i propri guardrail. Ma il testo che permetterebbe di vedere con precisione che cosa sia stato infine concordato, non è pubblico.
Fonte: The Intercept
