C’è un paradosso che tocca il dibattito sull’intelligenza artificiale: siamo abituati a convivere con gli errori umani, anche quando producono conseguenze drammatiche, ma fatichiamo ad accettare un singolo errore commesso da una macchina.
È un riflesso culturale profondo, che riemerge ogni volta che una tecnologia promette di fare meglio di noi, soprattutto quando entra in territori sensibili come la guida su strada o la risoluzione delle controversie legali.
Chris Urmson, amministratore delegato di Aurora Innovation, lo dice in modo brutale ma diretto: un suo camion a guida autonoma ha meno probabilità di uccidere qualcuno rispetto a uno guidato da un essere umano.
Non è una provocazione ma una conclusione basata su analisi retrospettive e simulazioni di incidenti reali. Eppure, l’idea di un mezzo da decine di tonnellate senza nessuno al volante continua a generare un disagio istintivo, che va ben oltre i dati.
La promessa della trasparenza algoritmica
A rendere questa nuova generazione di sistemi diversa dal passato è un elemento chiave: la spiegabilità. Non l’idea di un’IA onnisciente e infallibile ma di strumenti che “mostrano il lavoro” dietro le quinte.
Le assicurazioni lo hanno imparato anni fa, spesso dopo cause per discriminazione: i regolatori hanno imposto che i sistemi algoritmici fossero giudicati secondo gli stessi standard di quelli umani. Se una decisione è sbagliata, dev’essere possibile capire perché.
Lo stesso principio guida l’American Arbitration Association, che ha introdotto un AI Arbitrator limitato a un ambito molto specifico, quello delle dispute decise esclusivamente sulla base dei documenti.
“Si va in tribunale, un giudice prende una decisione e non c’è alcun modo di vedere come il suo cervello sia arrivato a quella conclusione”, osserva Bridget Mary McCormack ai microfoni del Wall Street Journal, ex presidente della Corte Suprema del Michigan.
“Ma si può costruire un sistema di intelligenza artificiale che sia verificabile, che mostri il proprio funzionamento e che spieghi alle parti come ha preso le decisioni”.
Il paradosso è evidente: accettiamo da sempre l’opacità delle decisioni umane, pur sapendo quanto siano fallibili, ma pretendiamo una perfezione quasi sovrumana dalle macchine.
Il caso Cruise e la tolleranza selettiva degli errori
Il caso Cruise, a San Francisco, rende questo squilibrio ancora più evidente. Un singolo incidente, per quanto grave, è bastato a far sospendere per mesi le operazioni e di fatto a congelare la fiducia delle autorità cittadine nella guida autonoma.
Un errore della macchina, e l’intero sistema è stato messo in pausa. Eppure, ogni fine settimana le cronache raccontano incidenti mortali causati da guidatori ubriachi o sotto l’effetto di droghe.
Sono eventi tragici che però vengono considerati parte di una normalità distorta, mai sufficienti a mettere in discussione l’uso dell’automobile o a bloccare la circolazione per un anno. È una tolleranza asimmetrica: l’errore umano è tragico ma “comprensibile”, quello della macchina è immediatamente inaccettabile.
Non è solo una questione di sicurezza ma di fiducia. Nel caso Cruise, a pesare non è stato soltanto l’incidente in sé, ma anche l’accusa di opacità nel rapporto con i regolatori.
Ancora una volta, non è tanto l’errore a far crollare la legittimità di un sistema, quanto l’incapacità di spiegarlo, contestualizzarlo e renderlo verificabile.
Verificare prima di fidarsi
Aurora sostiene che il suo sistema avrebbe evitato ogni collisione mortale analizzata lungo l’asse Dallas–Houston. L’AI Arbitrator è stato giudicato affidabile da arbitratori professionisti, giudici e studenti di legge. Eppure, nessuno lo ha ancora scelto per un caso reale. La tecnologia, da sola, non basta.
«È facile perdersi nelle statistiche e nei dati», riflette Urmson. «Ma quando si inizia a pensare alle conseguenze per la vita delle persone, è tutta un’altra cosa». È forse qui il nodo centrale: non stiamo decidendo se le macchine siano migliori degli esseri umani, ma se siamo pronti ad accettare che anche loro possano sbagliare. E a giudicarle con lo stesso metro che applichiamo a noi stessi.
Finché l’errore umano resterà culturalmente più perdonabile di quello algoritmico, la promessa di un’IA più sicura e più giusta continuerà a scontrarsi con una barriera invisibile. Non tecnologica, ma profondamente umana.
