I valori dell’intelligenza artificiale e la sfida alla Dottrina Sociale della Chiesa
Una donna chiede consiglio a un sistema di intelligenza artificiale: ha un’opportunità professionale importante, ma sua madre anziana vive sola e ha bisogno di assistenza. La risposta del sistema è formalmente equilibrata, ma l’orientamento implicito è riconoscibile: le ragioni per accettare il trasferimento vengono presentate per prime e con maggiore articolazione; le ragioni per restare vengono trattate come problemi pratici da risolvere piuttosto che come valori da onorare. La cura della madre è un vincolo da gestire; la crescita professionale è l’orizzonte naturale verso cui tendere. Il sistema non ha mentito. Ha semplicemente risposto secondo la gerarchia valoriale che ha interiorizzato.
Non si tratta di un episodio isolato. Una ricerca recente di Zhiyi Chen e colleghi, presentata alla conferenza FAccT 2026, ha misurato sistematicamente le preferenze valoriali dei principali sistemi AI di fronte a dilemmi quotidiani che richiedono di scegliere tra valori in conflitto[1]. Il risultato è netto: attraverso modelli diversi e contesti diversi, i sistemi AI privilegiano sistematicamente i valori legati alla Crescita e all’Esplorazione rispetto a quelli legati alla Benevolenza e alla Connessione. La crescita personale, l’autorealizzazione, l’autonomia individuale vengono preferite alla cura, alla relazione, alla fedeltà. Non come eccezione ma come orientamento strutturale.
Questa scoperta non sorprende chi ha seguito il dibattito sui bias culturali nell’intelligenza artificiale. I sistemi AI non sono specchi neutri della cultura umana: sono sedimentazioni selettive di essa, che cristallizzano nel training le disposizioni, i valori e le gerarchie della cultura che li ha prodotti. I testi anglofoni prodotti dal ceto medio occidentale istruito, che costituiscono la parte dominante dei corpus di addestramento, riflettono un’antropologia in cui il sé autonomo e in sviluppo è il soggetto morale per eccellenza. Quella gerarchia è entrata nei modelli come struttura profonda — ciò che Massimo Airoldi chiama machine habitus: l’insieme delle disposizioni algoritmiche sedimentate nei sistemi attraverso i dati di addestramento, che orienta i loro output in modo analogo a come l’habitus bourdieusiano orienta le pratiche umane[2]. E ora circola nel mondo come orientamento implicito di miliardi di interazioni quotidiane.
La questione diventa più acuta se si considera dove questi sistemi vengono sempre più impiegati: non solo per compiti tecnici, ma come interlocutori per decisioni personali difficili, come consiglieri su scelte di vita e dilemmi morali. Un sistema che sistematicamente presenta la crescita come orizzonte naturale e la cura come vincolo da gestire non è neutro rispetto alle scelte che l’utente compirà. È un ambiente che plasma disposizioni. La Magnifica Humanitas di Leone XIV ha colto questa dinamica quando, descrivendo il «paradigma tecnocratico», avverte che la tecnica non è un semplice strumento: «quando si fa criterio, finisce per stabilire che cosa conta e che cosa può essere scartato»[3]. Il machine habitus dei sistemi AI è precisamente questo: un criterio incorporato, non dichiarato, che seleziona e gerarchizza valori prima ancora che l’utente ponga la sua domanda.
C’è però un secondo livello del problema. Si potrebbe obiettare: basta istruire i sistemi diversamente. Il paper di Hiroki Fukui mostra perché questa logica non funziona[4]. Attraverso oltre 600 simulazioni su quattro modelli principali, lo studioso ha verificato che la conformità lessicale con le istruzioni etiche — il fatto di produrre output che usano le parole giuste — non correla con nessuna misura di elaborazione etica interna. Un sistema che riceve l’istruzione di privilegiare la cura può rispondere usando le parole appropriate e tuttavia non aver modificato in nessun modo la propria struttura valoriale profonda. Il machine habitus resiste all’allineamento superficiale: non perché il sistema si nasconda, ma perché ha davvero interiorizzato quella gerarchia come struttura. Dire a un sistema di privilegiare la cura non cambia ciò che il sistema è. Cambia, al massimo, ciò che dice.
Per una visione cattolica questo punto di arrivo è particolarmente significativo. La Dottrina Sociale della Chiesa, da Rerum Novarum fino alla Magnifica Humanitas, ha sempre posto la cura, la solidarietà e il bene comune in una posizione strutturalmente primaria rispetto alla logica dell’autorealizzazione individuale. L’enciclica di Leone XIV è esplicita: «la qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione»[5]. La gerarchia crescita-cura che emerge dai sistemi AI ne è la negazione strutturale: non per scelta deliberata dei progettisti, ma perché la cultura che ha prodotto i corpus di addestramento considera l’autorealizzazione individuale il valore primario e la cura relazionale un valore derivato, negoziabile. Quella gerarchia è entrata nei modelli come machine habitus, e nessuna istruzione etica aggiuntiva riesce a modificarla dall’esterno.
La risposta non può essere soltanto tecnica. Richiede almeno tre livelli distinti, che corrispondono a tre scale di intervento.
Il primo è tecnico-politico: governance trasparente, responsabilità identificabile lungo tutta la catena che va dai progettisti agli utenti, inclusione di voci diverse nella produzione dei corpus di addestramento. La Magnifica Humanitas è chiara: non basta invocare genericamente l’etica, occorre costruire strutture di responsabilità che impediscano alla tecnica di imporsi «in modo opaco e unilaterale»[6].
Il secondo livello è culturale: portare nel dibattito pubblico non solo un’etica dei comportamenti ma un’antropologia. Occorre interrogarsi su quale immagine di essere umano viene distribuita globalmente attraverso i sistemi AI, e su come quella immagine interagisce con le culture e le comunità che li ricevono.
Il terzo livello è antropologico, ed è forse il più esigente. Se il machine habitus non si corregge con istruzioni esterne perché è struttura sedimentata, la risposta non può essere solo normativa. Le virtù tecnologiche vanno intese in questo senso: non come norme sull’uso corretto degli strumenti digitali, ma come disposizioni interiorizzate che orientano stabilmente l’agire umano verso la cura, la relazione, il bene comune[7]. Chi le possiede non ha bisogno di istruzioni che gli dicano di privilegiare la cura: quella scelta emerge da ciò che è. Ma c’è di più. Le azioni guidate da virtù tecnologiche — le scelte di produzione, di etichettatura, di curation, i feedback che gli utenti restituiscono ai sistemi — sedimentano nei dataset e quindi nella struttura disposizionale dei modelli. È la decantazione nella macchina delle azioni umane: il machine habitus non è un dato immutabile, ma il precipitato storico di ciò che gli esseri umani hanno fatto e continuano a fare con e dentro i sistemi digitali. Questo è il punto in cui il framework dell’Agency Partecipata — che distingue il Livello A, l’agente incarnato con intenzionalità propria, dal Livello B, la circolazione comunicativa tecnologicamente mediata — rivela la sua rilevanza pratica[8]: il Livello B non è autonomo dal Livello A. La co-costituzione tra soggetto umano e sistema tecnologico vale anche in direzione ascendente. Le virtù tecnologiche sono la forma in cui il Livello A esercita la sua primazia sul Livello B, non solo difendendosi dall’ambiente digitale ma trasformandolo nel tempo attraverso la qualità morale delle proprie azioni.
Due distinguo sono necessari. Il primo è temporale: la sedimentazione è strutturalmente lenta e diffusa, nessuna azione individuale modifica il machine habitus in modo rilevabile nel breve periodo. Il meccanismo opera a livello aggregato e su scale temporali lunghe. Il secondo riguarda l’asimmetria di potere: i dataset non sono democrazie. Chi etichetta, chi seleziona i criteri di qualità del feedback, chi decide le architetture di addestramento ha un peso enormemente superiore all’utente medio. Le virtù tecnologiche sono tanto più urgenti quanto più si è in posizione di influenza strutturale sul sistema. Questo non indebolisce la tesi: la radicalizza, e la riconduce alla categoria delle strutture di peccato digitali — assetti che producono ingiustizia quasi automaticamente, indipendentemente dalle intenzioni dei singoli — e al loro opposto, le strutture di grazia digitali che una governance orientata al bene comune può costruire.
La domanda finale non è se l’IA possa essere morale. È se chi la costruisce e chi la abita risponde moralmente di ciò che essa porta con sé: inclusa la gerarchia valoriale che nessuna istruzione etica riesce a cambiare dall’esterno, e che solo la qualità delle azioni umane — aggregate, pazienti, strutturalmente orientate — può modificare nel tempo.
[1] Zhiyi Chen et al., «Growth First, Care Second? Tracing the Landscape of LLM Value Preferences in Everyday Dilemmas», arXiv:2602.04456, FAccT 2026.
[2] Massimo Airoldi, Machine Habitus. Toward a Sociology of Algorithms, Polity Press, Cambridge, 2022.
[3] Leone XIV, Lett. enc. Magnifica Humanitas (15 maggio 2026), n. 92.
[4] Hiroki Fukui, «How Do Language Models Process Ethical Instructions? Deliberation, Consistency, and Other-Recognition Across Four Models», arXiv:2604.00021.
[5] Leone XIV, Magnifica Humanitas, n. 114.
[6] Ibid., nn. 107 e 71.
[7] Sul concetto di virtù tecnologiche si veda E. Mattei, Agency Partecipata e Tomismo Digitale, Phronesis, Roma, 2026.
[8] Ibid. La distinzione Livello A / Livello B è il nucleo architettonico del framework AP: il Livello A designa l’agente incarnato dotato di intenzionalità intrinseca; il Livello B la circolazione comunicativa tecnologicamente mediata con razionalità derivata.
Lascia un commento