A gennaio abbiamo pubblicato una news in cui riportavamo della collaborazione tra OpenAI e il Pentagono, che avrebbe anche compreso progetti nel campo della cybersecurity. Una svolta netta rispetto alla politica iniziale della startup di Sam Altman, che escludeva la vendita delle proprie soluzioni di intelligenza artificiale alle forze armate.
Lo scorso febbraio, invece, il servizio OpenAI di Azure è stato integrato nella piattaforma di Azure per gli enti pubblici e la sicurezza nazionale, introducendo nuove funzionalità specifiche per soddisfare i requisiti di conformità e gestione richiesti dalle agenzie governative, inclusi gli enti di applicazione della legge.
La notizia che diamo oggi appare quindi un passo indietro rispetto ai recenti slanci governativi di OpenAI. Microsoft ha infatti annunciato il suo impegno nel limitare l’uso delle proprie tecnologie di intelligenza artificiale generativa da parte delle forze di polizia degli Stati Uniti.
In particolare, l’azienda ha introdotto delle clausole più stringenti nelle condizioni del servizio OpenAI di Azure, vietandone esplicitamente l’utilizzo per il riconoscimento facciale da parte dei dipartimenti di polizia americani. Questo divieto include anche l’utilizzo di modelli attuali e futuri per l’analisi delle immagini.
La modifica è stata annunciata in seguito al lancio di un nuovo prodotto da parte di Axon, azienda che fornisce tecnologia e armamenti a enti militari e di law enforcement, che utilizza il modello GPT-4 di OpenAI per elaborare l’audio registrato da telecamere montate sul corpo degli agenti.
Alcuni esperti hanno sollevato preoccupazioni su possibili allucinazioni dell’IA e pregiudizi razziali derivanti dai dati su cui i modelli sono addestrati, un problema particolarmente sentito negli USA, dove peraltro si registra un maggior numero di fermi di persone di colore.
Non è stato confermato se Axon stesse utilizzando il servizio OpenAI di Azure o se le restrizioni aggiornate siano una risposta diretta al suo prodotto. Tuttavia, le nuove norme specificano che l’uso di tecnologie per il riconoscimento facciale in tempo reale tramite telecamere mobili è proibito globalmente.
Le restrizioni, tuttavia, si applicano solo ai dipartimenti di polizia statunitensi; non riguardano invece l’utilizzo di queste tecnologie al di fuori degli Stati Uniti, né l’utilizzo del riconoscimento facciale con telecamere fisse in ambienti controllati.
