Negli Stati Uniti, diversi dipartimenti di polizia stanno sperimentando un nuovo strumento di IA che potrebbe rivoluzionare il modo in cui vengono redatti i rapporti di polizia. Si tratta di Draft One, un software sviluppato da Axon, noto produttore di Taser e body cam, che utilizza la tecnologia alla base di ChatGPT per generare automaticamente le bozze dei rapporti, basandosi sulle trascrizioni audio delle body cam degli agenti.
Lanciato ad aprile, Draft One promette di ridurre notevolmente il tempo dedicato alla burocrazia, con un risparmio di circa un’ora al giorno per gli agenti coinvolti nelle prime fasi della sperimentazione.
Secondo Axon, questa innovazione permetterà agli agenti di polizia di dedicare più tempo alla comunità e di prendere decisioni migliori, grazie a una maggiore concentrazione e benessere psicofisico. “Quando gli agenti possono trascorrere più tempo a connettersi con la comunità e a prendersi cura di sé stessi, sia fisicamente che mentalmente, possono prendere decisioni migliori che portano a risultati di de-escalation più efficaci,” ha dichiarato Axon durante la presentazione.
Nonostante l’entusiasmo di alcuni reparti, come quello di Oklahoma City, che utilizza il software per redigere rapporti su incidenti minori, e quello di Lafayette, Indiana, dove gli agenti possono impiegare Draft One per qualsiasi tipo di caso, emergono forti critiche. Parlando con Associated Press lunedì, il responsabile dei prodotti di intelligenza artificiale di Axon, Noah Spitzer-Williams, ha ricordato che Draft One utilizza la “stessa tecnologia di base di ChatGPT“.
Abbastanza affinché esperti di etica digitale come Lindsay Weinberg, della Purdue University, mettano in guardia sui rischi legati all’affidabilità dei modelli linguistici utilizzati. Weinberg sottolinea come questi strumenti non siano progettati per generare verità, ma piuttosto per creare frasi che appaiono plausibili, il che potrebbe portare a errori e allucinazioni in situazioni delicate.
Weinberg avverte anche che l’uso di tali tecnologie in un sistema legale che già sanziona l’incarcerazione di massa delle popolazioni marginalizzate dovrebbe sollevare serie preoccupazioni etiche, soprattutto in relazione alla privacy e ai diritti civili.
Quanto al primo appunto, guardando il video di presentazione di Draft One qui sopra è possibile notare che il sistema permette agli agenti editare i rapporti scritti automaticamente. Il che permette agli agenti di polizia di correggere qualsiasi allucinazione inserita erroneamente nei verbali.
Quanto al secondo punto, effettivamente gli algoritmi imparano dai dati storici e, se questi dati riflettono pregiudizi, le IA possono replicare tali bias in modo sistematico e su larga scala, con conseguenze in questo caso molto gravi per le persone coinvolte. Solo negli ultimi tempi, però abbiamo riportato notizie che hanno visto polizia americana usare cani robot, droni e (nuovamente) l’IA per il riconoscimento facciale.
Il dado è dunque tratto e la sensazione è che l’IA diverrà sempre più parte integrante delle forze dell’ordine. Non resta dunque che sperare che ciò accada sotto un’adeguata supervisione e controllo.
