Papa Leone XIV ha pubblicato ieri la sua prima enciclica, Magnifica Humanitas (Magnifica Umanità), dedicata alla “salvaguardia della persona umana nel tempo dell’intelligenza artificiale”.
È un documento di 43.000 parole che affronta guerra, lavoro, democrazia e dignità umana nell’era degli algoritmi. Per la prima volta nella storia, un pontefice ha partecipato in prima persona alla presentazione di un proprio documento: Leone XIV è intervenuto all’Aula del Sinodo, ha parlato, poi ha impartito la benedizione.
Il messaggio centrale è formulato senza ambiguità: l’IA non è neutrale. Porta con sé i valori delle persone e delle istituzioni che la progettano, la finanziano, la addestrano. E chi la progetta, oggi, è una piccola élite.
“Quando tale potere è concentrato nelle mani di pochi”, scrive Leone, “tende a diventare opaco e a sfuggire al controllo pubblico, aumentando il rischio di forme distorte di sviluppo che danno origine a nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”.
L’IA, aggiunge, “tende ad amplificare il potere di chi già possiede risorse economiche, competenze e accesso ai dati”, consentendo a queste élite di “plasmare i modelli di informazione e consumo, influenzare i processi democratici e orientare le dinamiche economiche a proprio vantaggio”.
La risposta del papa non è il rifiuto della tecnologia. È il suo disarmo. “Disarmare significa screditare l’assunzione che il potere tecnico conferisca automaticamente il diritto di governare”, scrive Leone. “Disarmare non significa rifiutare la tecnologia ma impedire che domini l’umanità”.
Un disarmo che il papa intende in senso letterale, cioè militare, ma anche economico e sociale.
Guerra, lavoro, schiavitù
I passaggi più netti riguardano l’uso dell’IA in ambito bellico. Leone afferma che qualsiasi applicazione militare “deve essere soggetta ai più rigorosi vincoli etici” e definisce “non lecito” affidare ai sistemi di IA decisioni letali.
La formulazione più diretta, secondo quanto riportato da Axios, è che ‘nessun algoritmo può rendere la guerra moralmente accettabile”. E poi va oltre: alcuni sistemi d’arma autonomi si sono evoluti, dice il papa, “praticamente al di là di qualsiasi capacità umana di governarli”.
In tale contesto si inserisce uno dei passaggi storicamente più rilevanti dell’enciclica, ossia il ripudio esplicito della dottrina della guerra giusta, elaborata dalla Chiesa a partire almeno dal quinto secolo.
“La teoria della ‘guerra giusta’, che è stata fin troppo spesso usata per giustificare qualsiasi tipo di guerra, è ormai superata”, scrive Leone. È una rottura netta con secoli di dottrina e arriva dopo che il vicepresidente americano JD Vance, cattolico, ha invocato proprio questa dottrina per difendere la guerra all’Iran.
Sul fronte del lavoro, il papa denuncia quelle che chiama “nuove forme di schiavitù”, ovvero i lavoratori che alimentano i sistemi di IA e gli operai delle fabbriche che producono i dispositivi su cui l’IA gira.
“In alcune regioni del mondo, bambini e adolescenti lavorano in condizioni pericolose, frantumando i materiali da cui vengono estratti gli elementi delle terre rare”, scrive.
“I corpi di queste persone sono segnati, feriti e logorati affinché il flusso computazionale possa continuare ininterrottamente”. È una realtà, aggiunge, che “sfida profondamente la coscienza morale del nostro tempo”.
Leone chiede anche che la proprietà dei dati legati all’IA non resti esclusivamente in mani private, che i governi tutelino i diritti dei lavoratori, che i bambini siano protetti dalla tecnologia.
E invoca “solidi quadri giuridici, una supervisione indipendente, utenti informati e un sistema politico che non abdichi alle proprie responsabilità”. La proposta politica centrale è chiara: “Ciò di cui c’è bisogno è un coinvolgimento politico più attivo, capace di rallentare quando tutto accelera.”
Big Tech alle porte del Vaticano
Nei giorni precedenti alla pubblicazione, secondo quanto riportato da Politico, rappresentanti di Amazon, Meta e Google hanno incontrato funzionari vaticani.
Il settore tecnologico ha trattato l’enciclica come un provvedimento regolatorio da monitorare e il papa come un interlocutore da influenzare, esattamente come avviene con i parlamenti e le commissioni europee.
Alla presentazione del documento era presente anche Christopher Olah, co-fondatore di Anthropic e responsabile della ricerca sull’interpretabilità dei modelli di IA, ovvero lo studio di come i sistemi avanzati prendono le loro decisioni internamente.
Come avevamo anticipato una settimana fa, la sua presenza non era protocollare. Dal palco, Olah ha ringraziato Leone per aver affrontato i problemi sollevati dalla tecnologia, e ha aggiunto una cosa rara per un dirigente di un’azienda di IA di frontiera: “Ogni laboratorio di IA di frontiera, incluso Anthropic, opera all’interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta”.
Il papa, un secolo e mezzo dopo
Leone XIV ha scelto il proprio nome in riferimento esplicito a Leone XIII, il papa che nel 1891 pubblicò la Rerum Novarum, l’enciclica che denunciò le ingiustizie della rivoluzione industriale e chiese migliori condizioni per i lavoratori.
La Magnifica Humanitas è firmata esattamente 135 anni dopo quel documento. Stesso strumento, stessa preoccupazione di fondo: una tecnologia che trasforma il lavoro e concentra il potere, e una Chiesa che prova a dire che i più deboli non possono essere lasciati indietro.
La Rerum Novarum entrò nel linguaggio politico del Novecento, influenzò i movimenti sindacali, ispirò le democrazie cristiane europee. Non cambiò il capitalismo industriale ma contribuì a costruire le categorie con cui discuterne.
È ragionevole attendersi che Magnifica Humanitas provi a fare qualcosa di simile: non fermare l’IA, ma offrire un vocabolario morale per governarla. Ma i tempi oggi sono ben diversi ed è difficile dire quale peso avranno oggi le parole del papa.
Perché scriverne
In alcuni commenti ai nostri precedenti articoli, qualcuno ha chiesto perché le parole del papa sull’IA dovrebbero ancora contare. È una domanda legittima e la risposta va oltre la numerica degli 1,4 miliardi di cattolici, distribuiti in ogni continente, cui Leone XIV si rivolge.
Il mondo sta attraversando un momento di disorientamento collettivo: guerre, impoverimento crescente, scomparsa della classe media, concentrazione della ricchezza senza precedenti.
In questi momenti, storicamente, l’uomo riscopre la fede. Non necessariamente in senso confessionale, ma come bisogno di strutture di senso che le istituzioni laiche non riescono più a fornire.
I governi, soprattutto oggi, appaiono catturati dai poteri economici. I partiti, inadeguati. In questo vuoto, una voce che parla di dignità umana senza dover rendere conto ad azionisti o investitori, ha un peso specifico difficile da replicare.
C’è poi qualcosa di specifico nell’IA che amplifica questo meccanismo. È una tecnologia che non si limita a cambiare il lavoro o i mercati e che tocca domande esistenziali. Cosa significa essere umani. Cosa distingue l’intelligenza dalla coscienza. Chi ha il diritto di decidere del futuro della specie.
Su queste domande, la Chiesa elabora risposte da duemila anni. Le aziende tech, no. Possono costruire sistemi straordinari, ma la domanda su chi ne paga il prezzo non rientra nel loro modello di business.
Leone XIV non può fermare l’intelligenza artificiale, non può regolamentare OpenAI, né può imporre nulla a Pechino o a Washington. Ma può fare una cosa che Sam Altman e Sundar Pichai non riescono a fare al suo posto: parlare di cosa vogliamo diventare.
In un dibattito in cui la domanda principale è chi controllerà la tecnologia, non chi ne sarà controllato, non è poco.
Fonti: Axios, The Verge, Reuters, TechCrunch
