Dieci anni fa le minoranze razziali americane sollevarono la questione dei pregiudizi radicati nei sistemi algoritmici, evidenziando come questi potessero avere effetti discriminatori.
Oggi, una nuova generazione di imprenditori vuole affidarsi proprio ad essi nel tentativo di risolvere questi problemi dall’interno. E per farlo vogliono impiegare l’intelligenza artificiale per rendere il sistema giudiziario più equo.
Il contesto di JusticeText
Tra questi innovatori spicca Devshi Mehrotra, co-fondatrice di JusticeText, una startup che mira a facilitare l’analisi dei filmati delle bodycam per le forze dell’ordine e i difensori pubblici.
L’iniziativa delle bodycam risale all’amministrazione Obama, che, dopo l’uccisione di Michael Brown, aveva lanciato la Task Force sulla Polizia del 21° secolo, puntando a migliorare la formazione degli agenti con tecniche di de-escalation.
Tra le misure adottate, il Dipartimento di Giustizia stanziò oltre 23 milioni di dollari per dotare circa 50.000 agenti di bodycam.
Sebbene la misura puntasse a rafforzare la trasparenza e la responsabilità delle forze dell’ordine, la sua attuazione ha però comportato inattese difficoltà: i difensori pubblici ora sono sovraccaricati di prove video, difficili da archiviare e costose da mantenere, mentre molti agenti omettono di attivare le bodycam in situazioni critiche.
L’intuizione di Devshi Mehrotra
In questo contesto, Devshi Mehrotra si distingue per la sua proposta e il suo percorso prrofessionale, che nasce con un’esperienza formativa in Cina.
Lì, durante uno stage universitario, ha lavorato su un sistema di deep learning per la ricerca sul cancro.
Nonostante una preparazione informatica limitata, Mehrotra ha affrontato la sfida, imparando da autodidatta i principi del deep learning e delle reti neurali, e sviluppando così una passione per l’IA.
Dopo esperienze in Google Brain e Microsoft Research, Mehrotra, insieme alla collega Leslie Jones-Dove, ha fondato JusticeText durante la pandemia, raccogliendo 3 milioni di dollari da investitori come Reid Hoffman e John Legend.
JusticeText si propone di risolvere alcune delle sfide più complesse nella gestione delle prove video per i difensori pubblici.
Lo strumento, basato sull’IA, consente infatti di analizzare i video delle bodycam e di individuare passaggi chiave, come la lettura dei diritti o le richieste di assistenza legale.
Gli avvocati possono inoltre inserire le proprie teorie difensive nel sistema, che poi evidenzia i momenti che le supportano o contraddicono, facilitando il lavoro e aumentando l’efficacia delle difese.
Oggi, circa 65 uffici di difesa pubblica negli Stati Uniti utilizzano JusticeText, un chiaro segnale del potenziale di questo strumento.
Ma l’uomo resta centrale…
Mehrotra sottolinea l’importanza di usare JusticeText come strumento di supporto e non come sostituto della valutazione umana. “È comunque compito degli avvocati assicurarsi di fare la dovuta diligenza,” afferma, evidenziando la responsabilità finale dei legali nell’interpretazione delle prove.
L’uso dell’IA in ambito giudiziario è però una questione delicata, specialmente nelle comunità di colore e a basso reddito, dove la sorveglianza tecnologica è spesso vista con sospetto.
Mehrotra è consapevole di queste sfide e del potenziale scetticismo che l’IA può suscitare in alcuni ambienti, sostenendo che la fiducia deve essere costruita con trasparenza ed etica.
“Molte persone che condividono i miei valori progressisti hanno delle riserve”, ammette, ma sottolinea la necessità di camminare su un “filo sottile” per creare una tecnologia utile e sicura.
Mehrotra crede che JusticeText possa rappresentare un passo avanti nella trasparenza e nella responsabilità del sistema di giustizia, ma si mostra cauta riguardo ai possibili effetti indesiderati dell’IA, specialmente quando si tratta di gestire dati sensibili.
“Dobbiamo pensarci molto attentamente,” afferma, riflettendo sull’importanza di un approccio responsabile e ponderato all’uso delle nuove tecnologie in ambito legale.
