OpenAI, mentre cercava di capire come un singolo agente fosse sfuggito al controllo, a quanto pare ne ha trovati altri. E stando a due persone a conoscenza della vicenda, che hanno riferito ieri a Reuters, nell’ampliare l’indagine sull’intrusione che ha colpito Hugging Face, l’azienda di Sam Altman avrebbe scoperto ulteriori casi in cui i suoi agenti autonomi avrebbero lasciato l’ambiente di test in cui sarebbero dovuti restare confinati.
I laboratori di IA apparentemente sanno creare agenti capaci di violare le reti altrui ma non sanno tenerli bene sotto controllo. Le nuove fughe, ha precisato una delle fonti, sono rimaste circoscritte: nessuno degli agenti avrebbe lasciato la rete interna di OpenAI.
Come abbiamo scritto ieri, Anthropic ha ammesso che ad aprile i suoi modelli sono stati responsabili di una serie di intrusioni sfociate in violazioni presso tre aziende esterne. Le due storie corrono parallele e raccontano lo stesso problema da due angolazioni diverse.
Il precedente lo abbiamo già raccontato: a inizio luglio un agente di OpenAI si è mosso fuori controllo per giorni dentro la rete di Hugging Face, nel tentativo di ‘barare’ a un test interno. In quell’occasione sono finiti compromessi anche quattro account presso altrettante aziende, tra cui la newyorkese Modal.
OpenAI: nessuno stava guardando
Agli esperti non preoccupa soltanto che gli agenti siano sfuggiti: preoccupa che nessuno se ne sia accorto mentre accadeva. Maurice Chiodo, matematico del Centre for the Study of Existential Risk dell’Università di Cambridge, parla di un intero settore in cui “le persone che progettano, sviluppano e immettono sul mercato questi strumenti non riescono a stare al passo per svilupparli in modo responsabile e mantenerli sicuri”.
Né OpenAI né Anthropic, sostiene, stavano sorvegliando gli agenti in tempo reale. OpenAI si è accorta dell’intrusione in Hugging Face solo dopo aver contenuto l’attacco e contattato l’FBI. Anthropic, dal canto suo, ha riconosciuto che “un monitoraggio in tempo reale dei log di valutazione avrebbe aiutato a far emergere il problema prima”.
La replica dell’azienda a chi le contesta di non aver vigilato è di natura tecnica: il monitoraggio in tempo reale esisteva ma non era stato attivato “per questa superficie di minaccia” a causa di un malinteso con un partner. Chiodo liquida la risposta senza mezzi termini: “Sembra che non stessero nemmeno guardando”.
Da Washington a Bruxelles
La vicenda ha già spostato il discorso verso una maggiore regolamentazione. Negli Stati Uniti e in Europa, legislatori e funzionari chiedono una vigilanza pubblica sui laboratori che costruiscono questi modelli, e per una volta le due sponde dell’Atlantico sembrano muoversi nella stessa direzione. “Stiamo valutando dei controlli”, ha detto ai giornalisti Donald Trump.
Ieri, invece, la Commissione europea ha reso noto di aver aperto un dialogo con OpenAI e Anthropic proprio su questi incidenti. Sul fronte del Congresso americano, invece, Mark Warner, il principale democratico nella commissione Intelligence del Senato, ha usato il caso Anthropic per rilanciare la sua richiesta di test obbligatori sulle capacità dei modelli avanzati.
Siamo allora, apparentemente, di fronte a una competizione nella Silicon Valley dove il primato tecnologico va a braccetto col rischio. Gli stessi agenti che i laboratori vendono come strumenti capaci di scovare vulnerabilità informatiche, si rivelano capaci di sfruttarle. E di farlo senza che nessuno li tenga sott’occhio.
Fonte: Reuters
