OpenAI ha affiancato due società di tecnologia per la difesa selezionate dal Pentagono per competere nello sviluppo di software di controllo vocale per sciami di droni destinati all’esercito statunitense.
La rivelazione, che arriva da fonti anonime citate da Bloomberg, riguarda una gara da 100 milioni di dollari annunciata a gennaio e finalizzata a creare prototipi di sistemi in grado di comandare sciami di droni capaci di prendere decisioni autonome ed eseguire missioni senza intervento umano.
Il logo di OpenAI compare in almeno due candidature presentate alla competizione, che procederà per fasi nei prossimi sei mesi. Il coinvolgimento della società guidata da Sam Altman, finora mai riportato pubblicamente, segna un ulteriore passo nell’espansione delle attività militari dell’azienda.
Il ruolo dichiarato: traduzione, non controllo
Secondo le fonti, la tecnologia di OpenAI verrebbe impiegata esclusivamente per tradurre comandi vocali dei comandanti sul campo in istruzioni digitali per i droni. Non sarebbe coinvolta nell’operatività dello sciame, nell’integrazione di armi o nell’autorizzazione ai bersagli.
Un portavoce di OpenAI ha precisato che due partner esistenti della società hanno scelto autonomamente di incorporare il modello open-source dell’azienda nelle loro proposte, e che OpenAI non ha presentato una candidatura propria. Verrebbe fornita solo la versione open-source dei modelli, non quelli più avanzati, eventualmente con supporto tecnico per l’installazione.
Una delle candidature che ha superato la selezione iniziale è stata guidata da Applied Intuition, appaltatore della difesa e partner strategico di OpenAI, insieme a Sierra Nevada Corporation e Noda AI.
Secondo un documento datato 25 gennaio visionato da Bloomberg, Applied Intuition fornirà l’interfaccia dello sciame, Sierra Nevada l’integrazione e Noda AI il software di orchestrazione che controlla i droni.
OpenAI compare nel diagramma architetturale nella sezione “Orchestrator”, tra operatore umano e macchina, per il “comando e controllo” della missione.
L’ambiguità dei confini tecnologici
La distinzione tra traduzione vocale e controllo operativo, per quanto netta sulla carta, solleva interrogativi tecnici e operativi non trascurabili.
Diverse fonti citate da Bloomberg hanno espresso preoccupazioni sui rischi legati all’uso dell’IA generativa per convertire comandi vocali in decisioni operative senza supervisione umana continua.
I modelli linguistici di grandi dimensioni come quelli di OpenAI sono infatti noti per produrre “allucinazioni”, ovvero output non ancorati alla realtà ma presentati con apparente affidabilità. In un contesto militare, dove l’errore può tradursi in vittime o escalation non intenzionali, questa caratteristica diventa critica.
Anche alcuni funzionari del Pentagono avrebbero manifestato allarme per l’integrazione di chatbot e sistemi di riconoscimento vocale in piattaforme d’arma, nonostante l’urgenza istituzionale di accelerare l’adozione dell’IA e dell’autonomia nei sistemi militari.
L’architettura proposta prevede che il sistema possa ricevere comandi come “sposta tutti i veicoli di superficie senza equipaggio cinque chilometri a est” e tradurli in azioni coordinate di più droni operanti in domini diversi, via aria e mare.
Dal “mai dire mai” di Altman ai contratti effettivi
Il coinvolgimento di OpenAI nella gara sugli sciami di droni segna un’evoluzione rispetto alle dichiarazioni pubbliche di Sam Altman. Ad aprile 2024, durante una conferenza sui conflitti moderni, l’amministratore delegato aveva affermato: “Non credo che la maggior parte del mondo voglia che l’IA prenda decisioni sulle armi”, aggiungendo di non aspettarsi che OpenAI lo facesse “nel prossimo futuro”.
Altman aveva però lasciato una porta aperta: “Non dirò mai mai, perché il mondo potrebbe diventare davvero strano”. Nel frattempo, OpenAI ha rivisto le proprie politiche sul lavoro nella sicurezza nazionale nel 2024 e annunciato una partnership strategica con Anduril Industries per tecnologie anti-drone, presentata all’epoca come esclusivamente difensiva.
Questa settimana il Pentagono ha reso noto un accordo che renderà ChatGPT disponibile a tre milioni di dipendenti del Dipartimento della Difesa. La transizione dalla retorica prudente ai contratti militari riflette pressioni più ampie sull’industria dell’IA: la ricerca di fonti di ricavo stabili per sostenere costi di ricerca e sviluppo sempre più insostenibili.
Negli ultimi mesi, diversi ricercatori hanno lasciato laboratori di punta esprimendo preoccupazioni etiche, tra cui una ricercatrice di OpenAI critica verso l’introduzione di pubblicità in ChatGPT e un ricercatore di Anthropic dimessosi con motivazioni più ampie sullo sviluppo dell’IA.
La strategia offensiva del Pentagono
Il programma rientra nella nuova AI Acceleration Strategy del Pentagono, pubblicata a gennaio, che mira a “liberare” agenti IA per il campo di battaglia, dalla pianificazione di campagne militari alla designazione di bersagli, potenzialmente in operazioni letali.
Un funzionario della difesa citato nell’annuncio della competizione ha chiarito esplicitamente gli obiettivi offensivi: l’interazione uomo-macchina “avrà un impatto diretto sulla letalità e l’efficacia di questi sistemi”.
La gara, gestita congiuntamente dal Defense Autonomous Warfare Group e dalla Defense Innovation Unit, prevede diverse fasi progressive. La prima si concentra sullo sviluppo software, prima di passare all’uso di piattaforme reali. Le fasi successive includono lo sviluppo di “consapevolezza e condivisione relative ai bersagli” e culminano in scenari completi “dal lancio alla terminazione”. Le aziende partecipanti procederanno solo se supereranno i test delle fasi precedenti.
I contratti militari nel settore tecnologico restano molto discussi: nel 2018 proteste interne costrinsero Google ad abbandonare il Project Maven, che prevedeva l’uso dell’IA per analizzare filmati di droni. L’industria dell’IA generativa mostra oggi maggiore apertura verso questi accordi, in un contesto segnato dalla competizione geopolitica e dalla corsa agli armamenti autonomi.
Fonte: Bloomberg
