Nel nostro editoriale pubblicato su Substack lo scorso weekend, abbiamo affrontato un problema che tornerà sempre più spesso nell’era dell’intelligenza artificiale generativa: l’affidabilità.
Quando un modello rovina la reputazione di qualcuno, stabilire chi debba risponderne diventa un terreno scivoloso. Lo abbiamo visto con il caso Wolf River, l’azienda solare falsamente accusata di problemi legali da Google AI Overview, e lo abbiamo ricostruito attraverso altri esempi che mostrano quanto fragile sia ormai il confine tra assistenza e danno.
Ora, a distanza di poche ore da quell’editoriale, arriva un articolo del Financial Times che rappresenta il follow-up ideale di quanto abbiamo scritto.
IA: le assicurazioni si tirano indietro
Secondo il celebre quotidiano, alcune delle principali compagnie assicurative americane, da Great American a Chubb fino a W. R. Berkley, stanno chiedendo ai regolatori statunitensi il permesso di escludere dalle polizze aziendali le responsabilità legate ai danni causati dall’intelligenza artificiale.
È un segnale di allarme non trascurabile: per gli assicuratori, infatti, gli output dei modelli generativi sono ormai “troppo simili a una scatola nera”, troppo difficili da prevedere, troppo imprevedibili da valutare.
L’unica eccezione sembra essere AIG, che ha affermato di non avere intenzione di introdurre nuove esclusioni. Ma la direzione appare chiara: il settore sta cercando un modo per limitare l’esposizione a un rischio che non sa più quantificare.
I casi che hanno cambiato il mercato
I segnali che qualcosa si stesse incrinando erano nell’aria. Lo scorso marzo, l’AI Overview di Google ha diffuso informazioni false su Wolf River Solar, provocando una causa da 110 milioni di dollari.
Air Canada si è trovata invece nella situazione surreale di dover onorare uno sconto inventato dal proprio chatbot. E, come accade sempre più spesso, dei truffatori hanno usato una versione digitalmente clonata di un dirigente per orchestrare una videochiamata deepfake perfettamente credibile, sottraendo 25 milioni di dollari alla società di ingegneria Arup.
Incidenti diversi, eppure accomunati da un punto fondamentale: l’IA non è più un semplice strumento. È una variabile autonoma, talvolta imprevedibile, in grado di generare decisioni, dichiarazioni, identità e contenuti con conseguenze pesantissime sul mondo reale. Ed è proprio questo livello di imprevedibilità a inquieta il mercato assicurativo. Perché la domanda, alla fine, è sempre la stessa: chi paga?
L’incubo del rischio sistemico
Come ha spiegato un dirigente di Aon, una perdita da 400 milioni di dollari la si può anche gestire. Il vero incubo è il rischio sistemico, lo scenario in cui un’IA agentica molto diffusa commetta lo stesso errore per migliaia di aziende simultaneamente, generando una cascata di richieste di risarcimento impossibile da gestire.
Ed è questo è il nodo della questione: non si tratta più di valutare un incidente isolato ma di immaginare un futuro in cui ogni settore, ogni azienda e ogni processo operativo, è mediato da un modello generativo in grado di sbagliare in modo sincronizzato e, dunque, amplificato.
Se il settore assicurativo comincia a tirarsi indietro, significa che stiamo entrando in una fase nuova: una fase in cui la copertura del rischio non è più garantita come presupposto dell’economia digitale. E per le aziende che stanno integrando modelli generativi ovunque, questo potrebbe diventare il primo vero limite strutturale all’adozione dell’IA.
