“La magnifica umanità creata da Dio si trova oggi di fronte a una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme”. Comincia così la lettera enciclica di papa Leone XIV, Magnifica Humanitas: sulla custodia della persona umana nel tempo dell’intelligenza artificiale, che si rifà al precedente storico della Rerum Novarum di papa Leone XIII, pubblicata nel maggio 1891. L’intento del documento ottocentesco era quello di intervenire sulla “questione operaia” e dare una risposta all’avanzare del socialismo. L’enciclica della fine del secolo XIX è considerata la base teorica della “dottrina sociale” della Chiesa, alla quale oggi papa Leone XIV si rifà direttamente, utilizzando anche tutta l’elaborazione teologica ed ecumenica successiva, fino a papa Francesco, che aveva ribadito la necessità di riportare al centro del discorso pubblico il lavoro e la dignità umana. Un paradosso storico perché, da una parte, la Chiesa rivaluta il lavoro proprio nel momento di declino e di assenza di un movimento globale di liberazione (non ci sarebbe quindi l’urgenza di rispondere all’avanzata del “quarto stato”), dall’altra, perché l’enciclica non sembra prendere in considerazione le profonde trasformazioni che stanno cambiando la natura stessa del lavoro umano.
Un paradosso che si potrebbe spiegare facendo riferimento a un’altra (vera) urgenza per la religione e quindi per la Chiesa: l’ambizione di una parte dei costruttori dei sistemi di intelligenza artificiale di andare verso un Superuomo che non abbia più bisogno della fede. La costruzione, appunto, di una nuova Torre di Babele che sfida il potere stesso della divinità.
Un mondo disumano e ingiusto
“Ogni generazione – scrive papa Leone – riceve in eredità il compito di dare forma al proprio tempo: di far maturare la storia come luogo in cui la dignità di ogni persona sia custodita, la giustizia promossa e la fraternità resa possibile. Ma su ogni epoca incombe il rischio di costruire un mondo disumano e più ingiusto”. Nessuna parola utilizzata dal papa è collocata a caso in un testo che vuole parlare a tutti, credenti e laici perché sono molto lontani i tempi del divieto per i cattolici di partecipare alla politica, stabilito dal Vaticano con il Non expedit (1874) di Pio IX, il papa che vietò ai cattolici la partecipazione alle elezioni politiche del Regno d’Italia. Da allora l’astensionismo di massa dei cattolici durò per quasi cinquant’anni fino al 1919, quando Benedetto XV, non si oppose alla nascita del Partito popolare italiano di don Luigi Sturzo, che poi portò alla fondazione della Democrazia cristiana.
La dottrina sociale
Insomma era cominciata un’altra storia. E oggi anche la Rerum Novarum si può rileggere come uno dei passaggi decisivi che hanno rimesso in campo la Chiesa, che, pur dicendo di rispettare l’autonomia dello Stato e della politica, non vuole rimanere alla finestra, e anzi vuole diffondere la sua visione del mondo. Ovviamente per i laici si tratta di scelte spesso discutibili e perfino regressive, come vediamo ancora con le posizioni sull’aborto, la libertà sessuale e di coscienza, il matrimonio dei preti. Il pendolo, in politica, ha oscillato costantemente tra le posizioni più reazionarie (ne abbiamo avuto un esempio, in questi giorni, con il caso dello scisma lefebvriano: vedi qui) e quelle più aperte al nuovo. La dottrina sociale tende a spostare il pendolo verso posizioni progressiste, come si è visto con papa Francesco, che non ha esitato a ricevere Landini e la Cgil in Vaticano, e a cui sono state perfino imputate posizioni filocomuniste. Come si è visto, più di recente, anche con gli attacchi dei falchi statunitensi (il vicepresidente Vance in particolare) a papa Leone, accusato di sostenere posizioni etiche e teologiche sbagliate e “illegittime”, avendo criticato la guerra (americana e israeliana) ed essendosi schierato in difesa degli immigrati.
Bene comune
Papa Leone invita a evitare la “sindrome di Babele”, che viene così descritta: “L’idolatria del profitto che sacrifica i deboli, l’uniformità che appiattisce le differenze, la pretesa di un linguaggio unico – anche digitale – capace di tradurre tutto, persino il mistero della persona, in dati e prestazioni. Questo è il rischio della disumanizzazione – costruire il futuro escludendo Dio e riducendo l’altro a mezzo – una tentazione antica e sempre nuova, che oggi assume anche un volto tecnico”. L’enciclica del 2026 riparte dunque dal Concilio Vaticano II, che formulò la definizione: “Il bene comune consiste nell’insieme di quelle condizioni della vita sociale che permettono tanto ai gruppi quanto ai singoli membri di raggiungere la propria perfezione più pienamente e più speditamente”. Il bene comune non è riducibile a un semplice elenco di condizioni o di istituzioni. “Non coincide con la somma dei vantaggi dei singoli, né con l’incrocio dei loro interessi particolari; è un bene più grande, che appartiene a tutti, e che solo insieme si può costruire, accrescere e custodire. Possiamo dire che l’agire sociale raggiunge la sua pienezza quando tende a questo bene condiviso, così come l’agire morale della persona trova compimento nella scelta del vero bene”.
Ma al di là delle definizioni teoriche, quello che ci interessa sottolineare qui è l’indicazione di un “progetto comune” per l’umanità. “Lavorare insieme alla ricerca del bene di tutti significa avere un progetto condiviso. È evidente che tra le diverse persone ci sono molte differenze ideologiche e pragmatiche, ci sono interessi diversi e frequenti contrasti, ma ciò non vuol dire che sia impossibile un percorso di dialogo per configurare una base di consenso che permetta di costituire un progetto per tutti e di camminare insieme”. In questo momento della storia mondiale, nessun soggetto morale o politico ha più il coraggio di misurarsi con l’idea universale di progetto comune. In campo teorico forse l’unica eccezione che ci viene in mente è la teoria del giurista e filosofo del diritto, Luigi Ferrajoli, con la sua idea di una Costituzione della Terra.
Non basta l’etica, serve la politica
La diatriba sulla neutralità della scienza e della tecnica è antica. Nel dibattito attuale sull’intelligenza artificiale, si sono riproposte tutte le posizioni espresse in una letteratura che ormai è sterminata. Apocalittici o integrati? La risposta dell’enciclica è netta: la Chiesa non si oppone al progresso tecnologico e cerca di andare anche oltre lo schema classico (la tecnologia non è né buona, né cattiva; l’importante è come si usa). Per papa Leone non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’intelligenza artificiale a valori umani, senza avere il coraggio di porre un’ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’intelligenza artificiale imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi.
Nell’enciclica, a questo proposito, sono assenti i riferimenti agli studi più avanzati sul potere tecnologico e sui padroni dell’intelligenza artificiale (pensiamo, per esempio, ai libri di Alessandro Aresu e di Michele Mezza). Ma il papa non fa riferimento a bibliografie laiche. L’importante è ancorarsi al discorso ecumenico e diffondere il messaggio: “Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”. A proposito di riferimenti culturali e di bibliografie ci si può divertire a rileggere tutte insieme le note dell’enciclica: si tratta di riferimenti basati esclusivamente sui documenti ufficiali del Vaticano e sulle encicliche precedenti, salvo pochissimi riferimenti ad autori laici. Tra questi, Romano Guardini (che era comunque un religioso, ma studioso apprezzato oltre la cerchia cattolica), Platone e la Hannah Arendt delle Origini del totalitarismo.
Tra entusiasmo e paura
“L’umanesimo cristiano” non rifiuta dunque la scienza e la tecnica, ma anzi le assume con gratitudine e realismo, e le colloca “con i piedi per terra” (quasi una citazione di ciò che Marx dice che si debba fare con Hegel) dentro una vocazione più alta. “L’intelligenza creativa dell’essere umano è un dono che può alleviare sofferenze e aprire possibilità nuove – leggiamo – ma essa deve restare ordinata al bene comune, alla giustizia, alla cura dei fragili e del creato. In questo senso, la vera alternativa non è tra entusiasmo e paura, ma tra due modi di costruire: un progresso che serve la persona e i popoli, oppure un progresso che li piega a logiche di potere. Alla fine, la domanda decisiva resta quella indicata da san Giovanni Paolo II: l’intelligenza artificiale ‘rende la vita umana sulla terra, in ogni suo aspetto, più umana? La rende più degna dell’uomo?’”. Se la risposta è “sì”, allora possiamo riconoscervi una possibilità buona da abitare con responsabilità, in un cammino di ricostruzione paziente e condivisa, sul modello della rinascita di Gerusalemme narrata nel libro di Neemia. “Se invece la potenza cresce mentre il cuore si inaridisce e i legami si spezzano, allora siamo davanti a una nuova forma di Babele: una costruzione grandiosa, ma disumana”.
Transumanesismo e postumanesimo
Leone XIV, con il sostegno dei suoi consulenti e collaboratori, è andato alla ricerca dei presupposti culturali che accompagnano la rivoluzione digitale in corso; in particolare l’enciclica si occupa delle correnti di pensiero che interpretano il progresso come “superamento dell’umano” e che si possono catalogare sotto il nome di transumanesimo e postumanesimo. Per il papa, “esse costituiscono lo sfondo ideologico che abita alcuni centri di potere tecnologico e colonizzano l’immaginario collettivo in forma semplificata, specie nei media e nelle reti sociali, inducendo l’entusiasmo per le nuove tecnologie con una visione futuristica di ‘uomo potenziato’ oppure di ‘uomo ibridato’ con la macchina”. Secondo la ricostruzione proposta dall’enciclica, queste correnti sono astratte e filosofiche, ma hanno un peso rilevante nella formazione di un nuovo immaginario sociale. Con la critica all’antropocentrismo (che secondo il nostro modo di vedere è comunque un fatto positivo, perché l’uomo non è il padrone del mondo), per papa Leone si prospetta però “una forma di ibridazione tra essere umano, macchina e ambiente, fino a immaginare un passaggio di soglia in cui l’umanità supererà sé stessa entrando in un nuovo stadio evolutivo. Anche quando queste ipotesi restano in larga parte speculative, esse acquistano rilevanza, perché modificano l’immaginario collettivo e, di conseguenza, orientano le scelte sociali, economiche e politiche”.
Un superuomo sulle spalle dei fragili
Il punto critico, dunque, alla luce della dottrina sociale della Chiesa, “non è l’uso della tecnica in quanto tale, ma la visione che vi soggiace: se l’essere umano è trattato come materiale da perfezionare o da oltrepassare, allora diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni”. In nome del progresso si può arrivare a immaginare “sacrifici necessari”, e a far pagare ai più fragili il prezzo di una presunta ottimizzazione della specie. Come aveva già detto Paolo VI (altro papa santificato), le conquiste della scienza e della tecnica, svincolate dal progresso morale e sociale, “finiscono per ritorcersi contro l’uomo”. Per questo è necessario distinguere con chiarezza: una cosa è integrare le tecnologie in una visione umana e relazionale, un’altra è lasciarsi guidare da un immaginario che svaluta il limite e promette una “salvezza” puramente tecnica.
Il paradigma tecnocratico
I riferimenti principali di papa Leone sono due: Leone XIII e papa Francesco. Per quanto riguarda l’elaborazione teologica generale, l’enciclica è zeppa di citazioni da encicliche storiche. Ma sui fatti della modernità e del progresso tecnologico della società capitalistica (termine mai usato nel testo) il riferimento principale è la Laudato si’ di papa Francesco, che già denunciava la crescente affermazione di un paradigma tecnocratico nel mondo globalizzato: la tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche. “Così appare con più evidenza che la tecnica non è un semplice strumento – spiega ancora Leone XIV – e che, quando si fa criterio, finisce per stabilire che cosa conta e che cosa può essere scartato, riducendo la creazione a oggetto di sfruttamento e le persone a ingranaggi di un sistema da rendere sempre più performante”.
Il disarmo dell’algoritmo
Papa Leone non esita a usare un termine forte e assolutamente controcorrente in un mondo che sembra correre verso la guerra totale. “Vorrei usare una parola che mi sta a cuore: disarmare. Disarmare l’intelligenza artificiale significa sottrarla alla logica della competizione armata, che oggi non è più solo militare, ma economica e cognitiva”. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. “Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”.
L’appello ai costruttori
L’enciclica vuole essere un messaggio ecumenico all’umanità, ma soprattutto un appello ai costruttori delle intelligenze artificiali perché gli “sviluppatori” portano un particolare peso etico e spirituale, in quanto ogni scelta progettuale esprime inevitabilmente una visione dell’umanità. “Come l’autore di un’opera artistica o letteraria è tenuto a considerare i valori che essa esprime, così essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti: con trasparenza, con responsabilità verso le comunità coinvolte e con attenzione a verificare che ciò che viene coltivato sia davvero un bene”.
Questo passaggio dell’enciclica è particolarmente interessante da due punti di vista. Da una parte, il papa, come era successo già 135 anni fa con il suo predecessore Leone XIII, ha bisogno di ridare la “linea” ai credenti in un mondo dominato dal caos e dalla crisi di ogni tipo di spiritualità. Dall’altra, il papa matematico (Leone XIV ha conseguito un Bachelor of Science in scienze matematiche nel 1977 presso la Villanova University, un ateneo agostiniano in Pennsylvania) mostra di avere una certa dimestichezza con il tema degli algoritmi che stanno alla base dell’intelligenza artificiale.
L’intelligenza artificiale si “coltiva”
Come dicono gli esperti, i sistemi di intelligenza artificiale non si producono, com’è stato fatto finora con tutte le macchine. I nuovi sistemi si progettano, si creano e poi si lasciano crescere. Si coltivano appunto come delle piante che possono riservare anche delle sorprese nel corso del loro sviluppo. Lo ha ribadito in Vaticano, durante la presentazione ufficiale dell’enciclica, uno che di queste cose se ne intende: Chris Olah, il giovanissimo co-fondatore di Anthropic. La sua presenza accanto al papa ha fatto discutere, trattandosi di un giovane (ateo) esperto di reti neurali, scelto per la sua volontà di sviluppare sistemi che non vadano contro gli interessi sociali. Ma Olah è soprattutto uno dei massimi esperti mondiali di interpretabilità delle reti neurali, ovvero dello studio di ciò che accade all’interno dei sistemi di intelligenza artificiale avanzati, dopo essere stati prodotti. La scena della presentazione è stata quasi teatrale. Da una parte, un papa che invita i costruttori a porsi dei limiti, dall’altra, un costruttore (si dovrebbe dire un “coltivatore”) che risponde chiedendo aiuto al papa. Aiutateci voi, dice Olah, perché da soli non riusciremo a governare processi così grandi e a resistere alle pressioni dei politici che ci chiedono sempre di più, e che ci obbligano a infischiarcene di ogni limite per battere la concorrenza dei cinesi.
