Uno dei pilastri etici della guerra moderna sta cedendo sotto il peso dell’innovazione tecnologica. I vertici della difesa del Regno Unito stanno infatti riconsiderando il principio fondamentale secondo cui un essere umano deve sempre avere l’ultima parola quando le armi autonome letali stanno per sferrare un attacco letale.
La politica militare britannica attuale stabilisce che ci debba essere un coinvolgimento umano adeguato al contesto nella selezione e nell’ingaggio dei bersagli. I rapidi sviluppi nell’uso dei droni, però, stanno spingendo diversi funzionari a chiedere che questo vincolo diventi facoltativo.
Il ministro delle forze armate britanniche, Al Carns, ha detto le cose come stanno. Le macchine, in circostanze eccezionali, decideranno da sole chi o cosa colpire.
La pressione del campo di battaglia
La giustificazione poggia su uno spietato pragmatismo tattico. Carns ripete di volere un operatore in carne ed ossa a supervisionare le operazioni, ma ammette la necessità di escluderlo quando serve. Ai nemici, fa notare, non importa nulla di avere questa supervisione.
Le democrazie occidentali si trovano allora davanti a una scelta. Mantenere regole etiche rigide e rischiare lo svantaggio contro il nemico, oppure allentarle per competere con nazioni che schierano sciami di droni e missili sempre più indipendenti.
Alcuni sistemi britannici operano già sul filo di questa definizione. Esistono missili in grado di volare verso una zona, individuare i bersagli e colpire da soli. L’umano preme un pulsante alla base, molto prima che il sistema scelga la vittima.
Il divario tra carte e realtà
Sulla carta, le posizioni ufficiali nelle sedi internazionali continuano a essere rassicuranti. Una recente dichiarazione del governo all’Ufficio delle Nazioni Unite per il disarmo ribadisce che Londra non possiede armi completamente autonome e non intende sviluppare sistemi privi di responsabilità umana. Nessuno stato dovrebbe farlo.
I fatti militari però dicono altro. Mentre Carns assicura coerenza con le regole attuali, l’establishment militare spinge per aggiornare direttive considerate ormai obsolete. A febbraio il governo ha avviato una revisione delle regole sui sistemi senza equipaggio, proprio per adeguarle al livello di minaccia attuale.
La spinta arriva dal fronte. Alti ufficiali britannici avvertono senza mezzi termini che le macchine stanno già dando la caccia agli esseri umani in Ucraina.
Sul campo, sia le forze ucraine sia quelle russe impiegano velivoli senza pilota che sfruttano la visione artificiale per localizzare e colpire i bersagli in modo autonomo.
Da un lato, i droni di Kiev riconoscono in autonomia 47 categorie preimpostate di veicoli militari e fanteria; dall’altro, i Lancet di Mosca utilizzano software avanzati per agganciare e distruggere le linee avversarie. L’IA prende la decisione tattica per entrambe le fazioni.
L’imprevedibilità delle armi autonome
Togliere l’essere umano dal processo letale apre voragini legali, prima ancora che tecnici. Gli esperti di diritto internazionale avvertono che questa delega, pur non violando impegni specifici di Londra, mette sotto stress le regole sulla protezione dei civili. Distrugge inoltre la prevedibilità dell’azione militare.
L’illusione di poter controllare architetture così complesse si scontra con il caos della guerra elettronica. I sistemi di disturbo del segnale accecano o confondono i sensori. Un drone autonomo programmato per colpire un radar può trasformarsi in un proiettile cieco.
Un incidente avvenuto a maggio mostra esattamente questo meccanismo. Due droni ucraini impiegati sul fronte orientale, diretti contro un impianto petrolifero russo, hanno colpito una struttura civile in Lettonia.
La teoria discussa dai militari occidentali è che i dispositivi, confusi dalle interferenze elettroniche, si siano agganciati da soli al bersaglio sbagliato. Il che dimostra che l’algoritmo, lasciato a se stesso, può diventare una variabile incontrollabile.
Fonte: Financial Times
