Magnifica Humanitas non è un documento pensato per le aziende. È un’enciclica papale: parla a tutti gli uomini e le donne di buona volontà, porta il peso di una tradizione millenaria di pensiero sociale, e si rivolge a questioni che vanno ben oltre qualsiasi perimetro organizzativo. Sarebbe fuori luogo – e francamente un po’ presuntuoso – leggerla come se fosse un contributo al dibattito sulla formazione professionale. Non lo è. È qualcosa di molto più grande. Eppure alcune delle domande che Leone XIV pone con autorità e profondità toccano dinamiche che chi lavora ogni giorno con le organizzazioni riconosce con precisione.
Leone XIV raccoglie un filo che veniva da lontano – dalla Rerum Novarum del suo predecessore omonimo, che nel 1891 aveva guardato in faccia la rivoluzione industriale – e lo porta fino a oggi, con una lucidità che sorprende chi si aspettava un documento di carattere esclusivamente religioso.
La domanda centrale del documento è semplice, quasi disarmante. Alla fine, dopo capitoli di analisi e principi, Leone XIV cita Giovanni Paolo II e pone una questione che vale la pena tenere sul tavolo mentre si legge il resto: l’IA «Rende la vita umana sulla terra, in ogni suo aspetto, “più umana”? La rende più “degna dell’uomo”?» (§129)
Il problema che Leone XIV vede, e che molti preferiscono non nominare
L’enciclica identifica con precisione il rischio principale dell’IA nelle organizzazioni. Non è il rischio tecnico – la sicurezza dei dati, la compliance normativa, i bias algoritmici. Questi sono problemi reali, ma sono problemi di secondo livello. Il rischio primario è antropologico.
Leone XIV lo descrive con un’immagine precisa. Il progresso tecnologico, se non accompagnato da un’adeguata maturazione etica, può far sì che «aumenti i mezzi senza che cresca in pari misura l’umanità: si “ha di più” ma non si “è di più”, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce». (§94)
Alla radice di questo rischio c’è quello che l’enciclica chiama paradigma tecnocratico: «la tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche. Così appare con più evidenza che la tecnica non è un semplice strumento e che, quando si fa criterio, finisce per stabilire che cosa conta e che cosa può essere scartato, riducendo la creazione a oggetto di sfruttamento e le persone a ingranaggi di un sistema da rendere sempre più performante». (§92)
In termini più vicini all’esperienza quotidiana di chi lavora in azienda: quante volte abbiamo sentito dire “lo dice il sistema”, “l’algoritmo ha classificato così”, “i dati indicano questo”? Quante volte quella frase ha chiuso una discussione invece di aprirla?
Il documento vaticano smonta con un argomento difficile da confutare l’idea che l’IA sia uno strumento neutro: «ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona». (§104)
Accettare quegli output senza esercitare giudizio critico non è efficienza: è abdicazione.
Lo scarto tra la traccia e l’intenzione
C’è un passaggio dell’enciclica che merita di essere letto lentamente, perché tocca qualcosa che la letteratura tecnica sull’IA fatica a nominare.
Parlando del lavoro e delle decisioni che lo riguardano, Leone XIV osserva che le decisioni delicate «che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona». (§102)
La conseguenza è descritta con una precisione che colpisce: «affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa». (§103)
L’IA, in altri termini, vede le tracce digitali che lasciamo – i comportamenti registrati, i pattern di interazione, i dati misurabili – ma non ha accesso alle motivazioni che ci muovono. È uno scarto strutturale, non un difetto tecnico correggibile con un aggiornamento del modello.
Questa osservazione, formulata in linguaggio teologico, descrive con esattezza un problema operativo che chiunque abbia usato strumenti di IA generativa in contesti professionali conosce bene. Il sistema produce output convincenti, coerenti, spesso corretti. Ma non sa cosa non sa. Non segnala i propri limiti. Non distingue tra ciò che ha elaborato con alta affidabilità e ciò che ha costruito per inferenza. Presenta tutto con la stessa sicurezza apparente. Il problema non è l’output in sé. Il problema è il professionista che lo riceve senza gli strumenti per valutarlo criticamente.
Perché la risposta non è “usare l’IA con cautela”
A questo punto, molti testi sull’IA – e molti corsi di formazione – si fermano su una risposta generica: usare l’IA con cautela, verificare gli output, mantenere la supervisione umana. È un consiglio giusto ma insufficiente. È come dire a qualcuno che non sa nuotare di stare attento vicino all’acqua.
Leone XIV va oltre, e lo fa con una chiarezza che vale la pena citare per intero: «non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo». (§106)
L’enciclica riconosce esplicitamente che la risposta non è la moralizzazione della macchina, ma la formazione delle persone. Perché, come scrive il Papa citando Romano Guardini, «l’uomo moderno non è stato educato al retto uso della potenza». (§93)
Quella frase era riferita alla tecnica del Novecento. Oggi, con l’IA generativa che entra in ogni processo aziendale, suona come una diagnosi contemporanea.
Il punto critico che l’enciclica solleva – pur senza svilupparlo in termini operativi, che non è il suo compito – è che la custodia dell’umano nell’era dell’IA richiede una competenza specifica. Non basta la buona intenzione. Non basta la consapevolezza del rischio. Serve un metodo.
Leone XIV parla di discernimento: la capacità di distinguere, di separare ciò che è affidabile da ciò che è apparente, di giudicare senza farsi trascinare né dall’entusiasmo né dalla paura. Il discernimento non è una virtù innata: si coltiva, si allena, richiede pratica e strumenti. E richiede che la responsabilità resti identificabile. L’enciclica introduce il concetto di accountability come «la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano». (§105)
Il paradosso che nessuno vuole guardare in faccia
C’è un paradosso al cuore dell’adozione dell’IA nelle organizzazioni che l’enciclica illumina obliquamente, e che vale la pena rendere esplicito.
Più ci fidiamo dell’IA, meno verifichiamo. La fiducia riduce l’attrito cognitivo – è esattamente a questo che serve – ma riduce anche la vigilanza critica. Quando un sistema funziona bene per settimane, per mesi, tendiamo ad abbassare la guardia e ad accettare i suoi output come fatti, non ipotesi.
D’altra parte, non fidarsi affatto dell’IA significa non usarla, o usarla in modo così ridondante da non ottenerne alcun vantaggio reale. Chi controlla tutto quello che il sistema produce non sta usando l’IA: sta usandola come scusa per fare tutto da solo.
La risposta a questo paradosso non è trovare una via di mezzo generica tra fiducia e diffidenza. È sviluppare la capacità di modulare la fiducia in modo dinamico e contestuale: alta quando il sistema opera su compiti per cui è stato ottimizzato in contesti che conosce bene, più bassa quando opera ai margini della propria competenza, quando il contesto è ambiguo, quando le conseguenze di un errore sono significative.
Questa capacità non si acquisisce leggendo un manuale. Si costruisce attraverso esperienza guidata, esposizione a casi reali, allenamento del giudizio critico applicato a situazioni concrete. È un percorso, non una certificazione.
Costruire nel bene: una categoria che vale anche fuori dalla teologia
Leone XIV usa un’espressione nell’introduzione dell’enciclica che vale la pena raccogliere: “costruire nel bene”. La declina in senso evangelico, naturalmente. Ma l’espressione ha una risonanza che va oltre il perimetro religioso.
Costruire nel bene, nel contesto dell’IA nelle organizzazioni, significa fare scelte di progettazione, adozione e formazione che mettano davvero la persona al centro. Significa chiedersi, per ogni processo in cui l’IA entra, se la decisione finale resta umana e responsabile. Significa non nascondersi dietro la neutralità dell’algoritmo quando le cose vanno storte.
L’enciclica lo dice con una formula che potrebbe stare in qualunque documento di strategia aziendale: «se la tecnica diventa criterio assoluto, la persona rischia di essere trattata come dato, ingranaggio o merce; se invece la tecnica è assunta dentro un orizzonte di sapienza, può diventare occasione di crescita, di giustizia e di fraternità». (§180)
Significa, soprattutto, investire sulla capacità di giudizio delle persone, non solo sulla potenza degli strumenti. Un professionista che non sa valutare criticamente l’output di un sistema di IA non è un professionista potenziato dall’IA: è un professionista esposto a rischi che non vede.
La domanda, alla fine, non è se usare l’IA. È se stiamo costruendo, nelle nostre organizzazioni, la capacità di governarla davvero. O se stiamo semplicemente adottando strumenti potenti sperando che vadano bene – in quello che Leone XIV chiamerebbe, con una certa precisione, un atto di delega acritica.
Leone XIV lo chiama custodia della persona umana. Noi lo chiamiamo, con ben altra modestia, RestiAmoUmani. La sostanza è la stessa: nel tempo dell’intelligenza artificiale, restare profondamente umani non è un’opzione romantica. È una competenza. Da costruire, allenare, praticare ogni giorno.
Perché l’IA non si usa. Si governa.