Dai dossier costruiti con i dati telefonici alla selezione degli obiettivi politici, il rapporto di Anthropic mostra come l’IA stia abbassando i costi della sorveglianza statale.
L’IA è già entrata nella sorveglianza di Stato. Secondo il nuovo rapporto di Threat Intelligence di Anthropic, soggetti legati ai governi di Cina, Iran e Mali hanno utilizzato Claude per costruire sistemi di controllo, analizzare grandi quantità di dati e individuare persone da monitorare.
Il punto più concreto riguarda il lavoro umano che viene sostituito dalle macchine. In Cina, un’unità di intelligence per gli affari religiosi che in precedenza impiegava numerosi gruppi di analisti, è stata ridotta a un solo ufficio che, con un assistente di IA, produce migliaia di indagini ogni mese.
È questo il salto di scala descritto da Anthropic: gli stessi apparati possono fare più sorveglianza con meno persone, senza dover necessariamente cambiare i propri obiettivi.
Dissidenti, attivisti, minoranze, giornalisti e oppositori politici, restano così nel mirino; cambia la quantità di lavoro che una singola struttura riesce a gestire.
Quando l’IA decide chi controllare
In alcuni casi Claude non è stato utilizzato soltanto per raccogliere o ordinare informazioni. Attori cinesi gli hanno fatto analizzare post sui social network e articoli apparsi sulla stampa, assegnando un punteggio alla loro sensibilità politica e segnalando possibili persone da sottoporre a quello che gli stessi operatori definivano “controllo”.
Quel termine poteva tradursi in interrogatori coercitivi oppure in un monitoraggio più stretto degli spostamenti e delle comunicazioni.
In un’altra operazione, Claude ha trasformato grandi quantità di contenuti social in schede strutturate con posizione, dati demografici, orientamento politico e livello di affidabilità della valutazione.
Anche in Iran il modello è stato usato per analizzare centinaia di migliaia di post e selezionare 39 account dell’opposizione da sorvegliare.
Jacob Klein, responsabile della Threat Intelligence di Anthropic, lo ha riassunto ad Axios così: “Di fatto stanno automatizzando parti del lavoro all’interno dell’apparato di intelligence”.
Claude come un reparto tecnico
Il caso del Mali mostra un altro uso ancora. Un singolo consulente che lavorava con l’Agence Nationale de la Sécurité d’État, l’intelligence maliana, ha utilizzato Claude come principale forza lavoro tecnica per sviluppare Lakana 360.
La piattaforma nazionale di sorveglianza raccoglieva dati dalle reti dei tre operatori mobili del Paese e generava dossier sui numeri telefonici indicati dagli utenti.
Anthropic precisa che, in questo caso, Claude non analizzava direttamente i dossier: serviva a progettare e sviluppare il software che rendeva possibile la raccolta. La piattaforma, secondo il rapporto, poteva lavorare su circa 25 milioni di SIM e integrare dati telefonici con altri registri statali.
In Iran, invece, soggetti legati ad apparati paramilitari e di sicurezza interna hanno usato Claude anche come reparto di sviluppo.
Tra gli strumenti realizzati c’era un’estensione malevola per Firefox destinata a raccogliere identità dai social network e alimentare un sistema centralizzato di sorveglianza.
Bloccare Claude non ferma la sorveglianza
Anthropic afferma di aver chiuso tutti gli account collegati alle operazioni individuate e di aver rafforzato i propri sistemi di rilevamento. Il problema però è che il blocco non ha coinciso con la fine dei progetti.
Il Mali ne offre l’esempio più chiaro. Dopo l’intervento di Anthropic, la piattaforma è stata installata localmente e ha continuato a funzionare con altri modelli. Claude aveva già fornito abbastanza supporto tecnico perché l’infrastruttura potesse sopravvivere senza Claude.
È anche per questo che il rapporto sposta il problema dai singoli modelli alla disponibilità generale di queste capacità. “Gli Stati autoritari stanno usando oggi l’IA per la sorveglianza, la repressione e le operazioni di influenza”, ha detto Klein. “Non è più un’ipotesi”.
Fonte: Axios
