Un accordo da 200 milioni di dollari rischia di saltare perché una startup di intelligenza artificiale si rifiuta di togliere i paletti etici alla propria tecnologia. Anthropic, l’azienda californiana che sviluppa Claude, è in rotta di collisione con il Pentagono sui termini contrattuali che regolano l’uso dei suoi modelli.
Il contratto, assegnato la scorsa estate per integrare Claude nelle operazioni di difesa, potrebbe essere cancellato. Il motivo del contendere: le condizioni d’uso imposte da Anthropic vietano esplicitamente l’impiego della tecnologia per la sorveglianza domestica e per operazioni letali autonome.
Le tensioni sono emerse quasi immediatamente dopo la firma. I termini stabiliti dall’azienda impediscono infatti a diverse agenzie federali di utilizzare Claude: tra queste l’Immigration and Customs Enforcement (ICE), l’agenzia che gestisce l’immigrazione, e l’FBI.
Per un’amministrazione che ha fatto della stretta sui confini e della sicurezza interna una bandiera politica, sono limitazioni difficili da digerire.
“Non useremo modelli che non ci permettono di combattere”
Il Segretario alla Difesa Pete Hegseth ha reso pubblico il disappunto del Pentagono all’inizio di questo mese, durante un evento in cui annunciava una nuova collaborazione con xAI di Elon Musk. “Non impiegheremo modelli di IA che non ti permettono di combattere guerre”, ha dichiarato.
Hegseth si riferiva proprio alle discussioni in corso con Anthropic. L’irritazione dei funzionari governativi nasce dal fatto che un fornitore privato stia di fatto dettando le regole su come il governo può usare una tecnologia, anche per attività ufficialmente legali.
Anthropic ha risposto con una nota ufficiale in cui rivendica il proprio impegno per la sicurezza nazionale: “Siamo impegnati a proteggere il vantaggio dell’America nell’IA e ad aiutare il governo statunitense a contrastare le minacce straniere, dando ai nostri combattenti accesso alle più avanzate capacità di IA”.
L’azienda sostiene che Claude viene già utilizzato “estensivamente” per missioni di sicurezza nazionale e che sono in corso “discussioni produttive con il Department of War” per proseguire la collaborazione.
La linea rossa di Anthropic
Il CEO di Anthropic, Dario Amodei, ha più volte esposto pubblicamente la sua visione sui rischi dell’intelligenza artificiale.
In un recente saggio ha espresso timori specifici sull’uso dell’IA per la sorveglianza di massa e per sistemi d’arma completamente autonomi, esattamente i due ambiti che i termini contrattuali di Anthropic escludono.
In un’intervista al Wall Street Journal la scorsa settimana, Amodei ha avvertito: “Non credo ci sia alcuna consapevolezza di cosa sta arrivando qui e della sua portata”. Ha anche criticato la decisione di Trump di consentire l’esportazione dei chip IA di Nvidia verso la Cina, definendola un rischio per la sicurezza nazionale.
Queste posizioni hanno messo Anthropic in conflitto diretto con David Sacks, lo “zar dell’IA e delle crypto” nominato dalla Casa Bianca. Sacks spinge per una deregolamentazione che acceleri lo sviluppo dei modelli e ha accusato Anthropic di essere composta da “catastrofisti dell’IA”, interessati a rallentare i concorrenti per vantaggi commerciali.
L’azienda ha respinto le accuse e ha precisato di avere complessivamente buoni rapporti con l’amministrazione, sottolineando il proprio sostegno all’espansione della produzione energetica per alimentare i data center.
Chi decide i limiti dell’IA militare?
Lo scontro tra Anthropic e Pentagono solleva una questione destinata a pesare sull’intero settore: chi ha l’ultima parola sull’uso militare dell’intelligenza artificiale? Le aziende che sviluppano i modelli possono porre limiti etici vincolanti, oppure i governi che li acquistano hanno il diritto di decidere autonomamente come impiegarli? Altre Big Tech dell’IA, tra cui OpenAI e Google, stanno collaborando con l’apparato militare statunitense senza apparenti frizioni contrattuali.
Per Anthropic la posta in gioco è alta. L’azienda sta negoziando un nuovo round di finanziamento che potrebbe portare la sua valutazione a 350 miliardi di dollari. Ma il suo posizionamento come campione della “sicurezza dell’IA” rischia di diventare un ostacolo nei rapporti con un’amministrazione che considera quelle cautele un freno inaccettabile.
La vicenda potrebbe creare un precedente: stabilire se le clausole etiche dei fornitori tecnologici siano negoziabili o rappresentino linee rosse invalicabili, anche quando dall’altra parte del tavolo siede il Dipartimento della Difesa.
Fonte: The Wall Street Journal
