Esistenza, conoscenza e finalità nella mediazione algoritmica

Venerdì 21 agosto, Fabrizio Accatino pubblicava su La Stampa l’articolo “Talos, primo robot della letteratura ucciso da Medea e dalla tracotanza“. Lunedì 24 agosto, Edoardo Mattei rispondeva con “La fisicità non fornisce l’identità all’Ai“. Da qui è nato un dialogo con Daniele Luzzo^(*), di cui pubblichiamo questo intervento.

Quando l’intelligenza artificiale entra in una pratica ad alta responsabilità, l’attenzione tende spesso a concentrarsi su chi abbia la decisione finale. Se l’ultima scelta resta a una persona, tendiamo a concludere che l’ordine delle responsabilità sia rimasto sostanzialmente intatto. La macchina suggerisce; l’umano valuta e decide.

Questa rappresentazione impedisce di antropomorfizzare l’IA, ma può diventare fuorviante se ci costringe a guardare soltanto la conclusione del percorso. Prima che qualcuno pronunci l’ultima parola, infatti, una situazione è già stata selezionata, rappresentata, classificata, ordinata secondo priorità, tradotta in indicatori e ricondotta a un insieme di alternative praticabili. L’intelligenza artificiale può intervenire proprio nello spazio che precede la scelta.

Il problema diventa quindi comprendere che cosa diventa l’IA nell’agire umano, come modifica il modo in cui conosciamo e quali fini orientano la selezione di ciò che diventa visibile e rilevante.

Propongo quindi di distinguere tre piani: ontologico, epistemico e teleologico. Il primo riguarda il modo in cui la tecnologia esiste nella relazione con l’azione umana; il secondo il modo in cui trasforma il campo del sapere e del giudizio; il terzo la struttura dei fini verso cui tale trasformazione è orientata. I tre piani sono distinti ma interdipendenti. La loro intersezione permette di capire perché la formula «la persona conserva la decisione finale» possa essere vera e, nello stesso tempo, teoricamente insufficiente.

Ontologia: oltre l’alternativa fra soggetto e strumento

Nel dibattito sull’IA ricorrono due immagini: la macchina come quasi-soggetto — agente, interlocutore, collaboratore — oppure come semplice strumento subordinato alla volontà umana. La prima rende visibile l’efficacia dei sistemi contemporanei ma rischia di trasformare capacità funzionali e autonomia operativa in attributi troppo vicini a quelli di un soggetto morale. La seconda preserva la differenza fra persone e artefatti, ma tende a immaginare la tecnologia come esterna a un’azione già formata.

La filosofia della tecnologia ha da tempo reso problematica questa alternativa. In prospettive diverse, Latour e Verbeek hanno mostrato che gli artefatti mediano pratiche, redistribuiscono possibilità e modificano ciò che diventa più o meno accessibile all’azione. Airoldi, parlando di machine habitus, ha mostrato come algoritmi e classificazioni possano entrare nei circuiti sociali di percezione e riproduzione delle categorie, producendo feedback fra strutture sociali e sistemi tecnici^.[1]

È quindi più utile pensare la presenza dell’IA come relazionale: il suo impiego può modificare il modo in cui una persona vede e valuta la situazione nella quale agisce. Barandiaran e Almendros sostengono che i large language models non soddisfano condizioni forti di agency autonoma, perché non generano da sé le proprie norme e i propri fini, ma possono trasformare forme preesistenti di agency umana^.[2] Noller propone analogamente di superare l’opposizione fra soggetto e oggetto concependo l’IA come parte di una relazione teleologica inserita nel lifeworld umano.^[3]

Ne deriva un’ontologia relazionale della mediazione: una configurazione algoritmica può dipendere interamente da infrastrutture, dati, finalità e decisioni umane e, proprio dentro questa dipendenza, riorganizzare le possibilità d’azione. Un ponte non possiede intenzioni, ma modifica stabilmente ciò che diventa raggiungibile, il percorso più breve, il tempo necessario per attraversare uno spazio. L’analogia non sovrappone infrastrutture fisiche e sistemi algoritmici; mostra però perché dipendenza e passività non coincidono. Il problema ontologico non è quindi attribuire soggettività alla tecnologia, ma descrivere il tipo di relazione che instaura con persone, istituzioni e ambienti.

Epistemologia: la tecnologia struttura ciò che può apparire rilevante

Ogni giudizio umano dipende da un ambiente epistemico: ciò che è disponibile, ciò che viene presentato, il modo in cui l’incertezza è rappresentata, il tempo necessario per verificare un’informazione, le alternative che possono essere considerate. Un sistema algoritmico può ordinare segnali e tradurli in punteggi, condensando molte variabili in una rappresentazione sintetica che assegna priorità e rende alcuni elementi immediatamente visibili mentre altri restano sullo sfondo.

Queste operazioni precedono l’atto di scegliere, ma modificano il mondo informativo entro cui esso avviene. È proprio per questo che occorre distinguere informazione e salienza. Avere accesso teorico a un dato non equivale a vederlo emergere se l’interfaccia non lo porta in primo piano. Allo stesso modo, la disponibilità di molte alternative non equivale alla loro pari presenza nel giudizio se l’architettura tecnica ne ordina alcune come più plausibili o urgenti. Due interfacce possono attingere allo stesso patrimonio informativo e tuttavia costruire ambienti epistemici differenti: una può rendere evidente l’incertezza, un’altra può comprimere il risultato in un singolo punteggio; la prima può esporre alternative concorrenti, la seconda può presentare soltanto la classificazione dominante. La differenza non riguarda quindi solo quanto l’IA «sa», ma la forma in cui rende quel sapere operativamente disponibile a chi deve agire.

Da questo punto di vista, l’IA contribuisce a configurare le condizioni di apparizione della conoscenza operativa: quali proprietà vengono computate e combinate, quali soglie contano e in quale forma gli output arrivano all’utente. Questa mediazione può ampliare la conoscenza umana, facendo emergere segnali altrimenti invisibili o integrando quantità di dati difficili da trattare; nello stesso tempo, può accrescere la dipendenza da una particolare architettura di selezione e rappresentazione.

Hirmiz ha proposto, nel campo del decision support, la nozione di epistemic nudge per descrivere gli AI-DSS come una categoria epistemica distinta da superiori, inferiori e pari epistemici^.[4] La categoria è utile perché riconosce una funzione epistemicamente attiva senza trasformare l’IA in un secondo soggetto.

Conservare il potere di scegliere non garantisce il controllo pieno sul modo in cui la scelta diventa intelligibile. Il controllo umano riguarda anche ciò che precede la scelta: la produzione di rilevanza, la gerarchia delle evidenze, il modo in cui il possibile viene ristretto e il probabile viene rappresentato.

Questa mediazione può inoltre essere ricorsiva. Le classificazioni orientano pratiche e decisioni che contribuiscono a modificare il contesto dal quale saranno ricavati nuovi dati, osservazioni e categorie le quali influenzano pratiche umane e organizzative; queste trasformano l’ambiente, che a sua volta produce nuove informazioni suscettibili di essere selezionate e classificate^.[1] È in questa ricorsività sociotecnica che l’epistemologia della mediazione incontra la questione dei fini.

Teleologia: la struttura dei fini

Un sistema di IA può essere orientato teleologicamente senza possedere desideri o intenzioni nel senso umano. Algoritmi e modelli vengono progettati, addestrati e impiegati per classificare o prevedere, entro criteri che orientano raccomandazioni, ottimizzazione e riduzione di determinati errori. Anche una tecnologia «general purpose» viene concretamente ritagliata da compiti, metriche, prompt, procedure e finalità d’uso.

Fumagalli e Ferrario mostrano come la spiegazione teleologica possa essere applicata agli artefatti di IA interrogando la relazione fra funzionamento e fini assegnati.^[5] Noller interpreta l’IA come un’estensione teleologica dell’azione umana, nella quale algoritmi e basi di dati sono connessi a finalità individuali e collettive.^[3]

La domanda diventa quindi: quale gerarchia di fini è stata resa operativa? Quale prestazione viene ottimizzata? Quale errore è considerato più costoso? Quale fenomeno viene reso misurabile? La gerarchia osservata non coincide necessariamente con l’intenzione originaria del progettista: modelli complessi possono produrre risultati imprevisti e gli usi organizzativi deviare dagli scopi iniziali. La teleologia va allora ricostruita nell’assetto di obiettivi e vincoli che governa l’impiego.

Il telos della mediazione algoritmica risiede dunque nell’orientamento che scopi, metriche e pratiche imprimono al modo in cui il mondo viene classificato e reso disponibile all’azione.

Per questo la teleologia è una questione sociale e politica oltre che tecnica. La ricerca di efficienza e rapidità può entrare in tensione con sicurezza, accuratezza ed equità; lo stesso vale per il contenimento dei costi e la minimizzazione di un certo tipo di errore. Quando tali fini vengono tradotti in procedure automatizzate, il conflitto non scompare: viene incorporato nella mediazione.

Due esempi: il triage e il targeting

Il triage clinico e il targeting militare permettono di osservare il problema attraverso domini diversi ma accomunati dall’uso di sistemi che organizzano informazioni prima della scelta umana.

Nel triage clinico, un sistema può ordinare pazienti o informazioni secondo un modello di rischio. Il medico conserva l’autorità di confermare o modificare una priorità, ma la scelta viene esercitata dentro un campo epistemico già orientato da una funzione: identificare, secondo determinati criteri, ciò che deve ricevere attenzione prima.^[6] Un punteggio non si limita a riassumere dati: porta in primo piano alcune variabili, traduce l’incertezza in una forma operativa rendendo comparabili situazioni che, nell’esperienza clinica, restano qualitativamente differenti. Cambiare l’obiettivo, la soglia o il costo attribuito a falsi positivi e falsi negativi significa modificare anche ciò che viene posto in cima alla gerarchia. Epistemologia e teleologia si incontrano prima della scelta del medico, senza che questo elimini il suo ruolo professionale o normativo.

In un contesto militare, uno strumento algoritmico può contribuire a classificare segnali, organizzare informazioni o produrre raccomandazioni relative a ciò che appare minaccioso. L’elemento rilevante, qui, non è una particolare architettura tecnica, ma il fatto che classificazione e priorità possono trasformare una pluralità di segnali in una rappresentazione pronta per l’azione. Anche quando l’autorizzazione finale resta a una persona, il modo in cui alternative e rilevanza vengono presentate può incidere sulla formazione del giudizio. Studi sperimentali hanno mostrato che raccomandazioni automatizzate possono produrre forme di overtrust anche in simulazioni relative all’uso della forza^.[7] Si determina così una distanza fra la presenza formale della persona nel processo e la qualità epistemica del contesto in cui essa interviene, con conseguenze letali.

Nell’azione umana mediata tecnologicamente, parte del campo del visibile, del rilevante e del possibile è già stata organizzata.

Agency, responsabilità e asimmetria dell’answerability

Entro questa struttura più ampia si possono distinguere almeno tre vocabolari analitici. Possiamo parlare di agency delegata, mantenendo l’operato della macchina entro una struttura di delega umana; oppure di agency distribuita, attribuendo l’azione alla configurazione sociotecnica; infine possiamo rifiutare l’estensione del concetto di agency e descrivere il sistema in termini di causalità e mediazione.

Tuttavia, contribuzione causale, mediazione epistemica, agency e responsabilità normativa indicano problemi distinti. La distribuzione delle prime tre non determina automaticamente l’attribuzione della responsabilità.

L’asimmetria emerge sul piano dell’answerability. La persona è inserita in pratiche nelle quali può essere chiamata a fornire ragioni, assumere obblighi, rispondere a contestazioni e subire conseguenze per ciò che fa. Anche le teorie che ampliano l’agency devono perciò mantenere distinta l’articolazione dell’azione dall’attribuzione della responsabilità.

Le persone sono organismi situati, esposti alle conseguenze del mondo e alle pretese normative degli altri; il corpo e la vulnerabilità possono segnare una differenza ulteriore. La responsabilità non riguarda soltanto il controllo causale di un processo: appartiene anche a processi di imputazione, giustificazione e risposta nei quali qualcuno può essere interpellato come autore di ragioni e destinatario di conseguenze. Le tecnologie di IA contemporanee possono partecipare a pratiche e produrre effetti senza occupare questa posizione nello stesso modo.

Essere chiamati a rispondere delle proprie scelte non costituisce soltanto un onere. In una prospettiva aristotelica, vi si può riconoscere anche una dimensione della vita eudaimonica: quella legata all’esercizio razionale e virtuoso dell’agire e alla deliberazione pratica su ciò che è bene fare^.[8] Ne emerge un’asimmetria relazionale: la macchina può trasformare le modalità dell’azione, mentre il peso normativo continua a ricadere su soggetti capaci di rispondere delle proprie ragioni e delle proprie scelte.

L’ultima parola non esaurisce il giudizio

La tendenza a concentrarsi sulla decisione finale deriva da un’immagine lineare dell’azione: prima arrivano le informazioni, poi il soggetto le valuta, infine sceglie. Ma la mediazione algoritmica rende fragile questa separazione. Quando i sistemi tecnici partecipano alla selezione delle informazioni e alla definizione delle priorità, entrano nella formazione stessa del campo nel quale il giudizio umano si esercita.

Qui convergono le tre dimensioni del problema. Ontologicamente, la tecnologia può diventare parte della relazione attraverso cui l’azione prende forma. Epistemicamente, ciò che una persona vede, confronta e considera rilevante dipende anche dall’architettura che media il suo accesso alla situazione. Teleologicamente, quell’architettura opera attraverso fini, metriche e priorità incorporate nella progettazione, nell’addestramento, nelle istituzioni e nelle pratiche d’uso.

Il controllo umano non coincide con la presenza di una persona nell’ultimo passaggio del processo. Dipende anche dalle condizioni entro cui quel giudizio può formarsi.

Per questo la domanda «chi decide?» arriva troppo tardi.

Prima dovremmo chiedere che cosa l’IA sia diventata dentro l’azione, quali fini orientino il campo del reale e, infine, cui prodest?

L’ultima parola può restare umana mentre il mondo entro cui essa viene pronunciata è già stato reso intelligibile attraverso una mediazione tecnica.

È qui che la questione della decisione diventa una questione di potere: quello di configurare l’alfabeto con cui quell’ultima parola può essere pensata.

Note

[1] Latour (2005), Verbeek (2011) e Airoldi (2022) rappresentano tre tradizioni differenti ma convergenti nel rifiuto di una concezione puramente neutrale della mediazione tecnica. Per il passaggio sulla ricorsività, il riferimento specifico è Airoldi (2022), attraverso il concetto di machine habitus e il feedback fra classificazioni algoritmiche e strutture sociali.

[2] Barandiaran e Almendros (2025) valutano i LLM alla luce di condizioni di agency autonoma derivate da approcci embodied/enactive e ne sottolineano l’assenza di normatività e fini autogenerati, pur riconoscendone la capacità di trasformare l’agire umano.

[3] Noller (2024) sviluppa esplicitamente un account teleologico dell’IA come estensione dell’agire umano nel lifeworld, distinguendolo sia dall’antropomorfizzazione sia dal semplice strumentalismo.

[4] Hirmiz (2024) propone la nozione di epistemic nudge per descrivere il ruolo dei sistemi di supporto decisionale senza assimilarli automaticamente a pari epistemici umani.

[5] Fumagalli e Ferrario (2026) applicano la teleological explanation alla valutazione dell’IA, insistendo sulla necessità di chiarire e documentare i fini attribuiti agli artefatti.

[6] Sul decision support clinico, la letteratura mostra come explainability e meaningful human control dipendano da condizioni epistemiche oltre che dalla mera presenza del clinico nel circuito decisionale; cfr. Braun et al. (2021) e Pozzi e Santoni de Sio (2026).

[7] Holbrook et al. (2024) mostrano sperimentalmente forme di overtrust in raccomandazioni di IA in scenari simulati relativi all’uso della forza; qui il risultato è richiamato come evidenza della possibilità del fenomeno, non come stima delle operazioni militari reali.

[8] Cfr. Aristotele, Etica Nicomachea, I.7, 1098a16–18, sull’attività dell’anima secondo virtù come caratterizzazione del bene umano, e VI.5, 1140a24–b30, sulla phronesis come disposizione pratica razionale relativa a ciò che è bene o male per l’essere umano. Il collegamento tra queste categorie e la mediazione algoritmica è un’inferenza sviluppata in questo saggio.

Bibliografia essenziale

Airoldi, M. (2022). Machine Habitus: Toward a Sociology of Algorithms. Polity.

Aristotele. (1999). Etica Nicomachea (C. Natali, trad., introd. e note). Laterza.

Barandiaran, X. E., & Almendros, L. S. (2025). Transforming agency: On the mode of existence of large language models. Phenomenology and the Cognitive Sciences. doi: 10.1007/s11097-025-10094-3

Braun, M., Hummel, P., Beck, S., & Dabrock, P. (2021). Primer on an ethics of AI-based decision support systems in the clinic. Journal of Medical Ethics, 47(12), e3. doi: 10.1136/medethics-2019-105860

Fumagalli, M., & Ferrario, R. (2026). Leveraging teleological explanation to support general-purpose AI assessment. AI & Society, 41(2), 825–842. doi: 10.1007/s00146-025-02587-1

Hirmiz, R. (2024). The epistemic role of AI decision support systems: Neither superiors, nor inferiors, nor peers. Philosophy & Technology, 37, 127. doi: 10.1007/s13347-024-00819-8

Holbrook, C., Holman, D., Clingo, J., & Wagner, A. R. (2024). Overtrust in AI recommendations about whether or not to kill: Evidence from two human-robot interaction studies. Scientific Reports, 14, 19751. doi: 10.1038/s41598-024-69771-z

Latour, B. (2005). Reassembling the Social: An Introduction to Actor-Network-Theory. Oxford University Press.

Noller, J. (2024). Extended human agency: Towards a teleological account of AI. Humanities and Social Sciences Communications, 11, 1338. doi: 10.1057/s41599-024-03849-x

Pozzi, G., & Santoni de Sio, F. (2026). Epistemic justice as a condition for meaningful human control over medical AI. Minds and Machines, 36, 10. doi: 10.1007/s11023-026-09762-3

Verbeek, P.-P. (2011). Moralizing Technology: Understanding and Designing the Morality of Things. University of Chicago Press.

(*) Daniele Luzzo è sociologo e docente di Sociologia della salute e Sociologia generale presso l’Università di Torino, con formazione in psicologia, antropologia e salute pubblica. Former Senior Staff Counsellor presso l’UNHCR e Regional Stress Counsellor presso l’UNDSS, ha maturato una lunga esperienza nelle organizzazioni internazionali, anche presso l’OCSE e il Consiglio d’Europa. Studia i processi di mediazione epistemica, decisione e agency, con particolare attenzione alle istituzioni e ai sistemi socio-tecnici.