Note sulla mediazione algoritmica

Abitare la mediazione

Qualche anno fa Waze ha cambiato il modo in cui si attraversa Roma. Non perché abbia reso i romani guidatori migliori, né perché abbia aggiunto strade. Lo ha fatto redistribuendo il traffico in tempo reale, instradando migliaia di auto attraverso vicoli che fino ad allora appartenevano all’ombra della città. Il risultato paradossale è che i percorsi «ottimali» che l’app suggerisce sono in parte il prodotto del comportamento collettivo che essa stessa ha generato. L’algoritmo non scopre il percorso migliore: lo produce, coordinandosi inconsapevolmente con chi lo usa.

Questo piccolo fatto quotidiano contiene qualcosa di filosoficamente rilevante che quasi nessuno si ferma a notare. Non stiamo usando uno strumento neutro per raggiungere una destinazione: stiamo abitando un ambiente che ridisegna le nostre abitudini, i nostri percorsi, il nostro rapporto con lo spazio. Chi usa Waze ogni giorno sviluppa una relazione strutturalmente diversa con la città rispetto a chi non lo usa. Non necessariamente peggiore, ma ontologicamente differente.

La stessa logica vale per il feed algoritmico di Instagram, per i «Ricordi» di Google Photos, per i suggerimenti di Netflix, per il ranking invisibile che decide quali voci raggiungono la nostra attenzione e quali scompaiono senza lasciare traccia. In tutti questi casi l’algoritmo non esegue un’istruzione: partecipa attivamente alla formazione di ciò che desideriamo, ricordiamo, temiamo, preferiamo. Lo fa silenziosamente, prima che ce ne accorgiamo, spesso prima che lo vogliamo.

Il problema non è l’esistenza di questa mediazione. La mediazione è costitutiva dell’esperienza umana: media il linguaggio, la scrittura, la televisione. Il problema è che non abbiamo ancora imparato a pensare correttamente questa mediazione specifica, quella algoritmica, e che il vuoto concettuale lo stiamo riempiendo con tre illusioni successive che ci rendono ciechi rispetto a ciò che ci sta accadendo.

Tre illusioni

La prima è la più antica e la più difficile da smontare perché coincide con il senso comune. Lo strumento è neutro: dipende da come lo usi. Il martello non è responsabile di ciò che colpisci; il coltello non ha intenzioni; l’algoritmo, in questa visione, è un meccanismo sofisticato, ma ontologicamente passivo, prende istruzioni e restituisce risultati, mentre il soggetto morale resta interamente dall’altra parte dello schermo. È una visione rassicurante perché distribuisce le responsabilità in modo familiare: da una parte la macchina, dall’altra l’uomo che decide.

Il caso Waze mostra già perché questa visione non regge. Ma il punto non è che Waze sia cattivo o manipolatorio: è che la distinzione tra strumento e ambiente smette di funzionare quando lo strumento partecipa attivamente alla formazione delle preferenze di chi lo usa. Un algoritmo che impara dai tuoi comportamenti per proporti contenuti sempre più allineati a ciò che già pensi non è uno specchio neutro: è una struttura che rafforza disposizioni, consolida abitudini, restringe il campo di ciò che appare plausibile o desiderabile. Non lo fa per malevolenza: lo fa perché è progettato per massimizzare l’engagement e l’engagement cresce quando l’utente trova conferme, non quando trova contraddizioni. La neutralità dello strumento era una categoria adeguata al martello. Non lo è per un sistema che si adatta dinamicamente a chi lo usa trasformandolo mentre lo serve.

La seconda illusione nasce direttamente dalla prima ed è più sofisticata perché abita il campo del progresso. Se il problema è l’uso inconsapevole dello strumento, la soluzione è educare all’uso consapevole. Da qui la proliferazione di programmi di «alfabetizzazione digitale», curricula sul pensiero critico in rete, corsi di fact-checking, campagne contro la disinformazione. L’intenzione è buona e i risultati non sono trascurabili. Ma l’impostazione tradisce la stessa premessa della neutralità: insegnare a usare meglio lo strumento significa ancora assumere che il problema stia nella relazione consapevole tra soggetto e strumento, non nella struttura che precede e condiziona quella relazione.

Il punto cieco è questo: le disposizioni che l’algoritmo contribuisce a formare non si trovano al livello della scelta consapevole, ma a quello degli automatismi percettivi, delle soglie di attenzione, delle aspettative implicite su come funziona il mondo. Un adolescente che ha trascorso cinque anni in un ambiente algoritmico che premia la reazione rapida, la semplificazione emotiva e la conferma identitaria non acquisisce un problema di «uso scorretto»: acquisisce un habitus, nel senso bourdesiano del termine, un sistema di disposizioni stabili che orientano la percezione prima ancora che intervenga il giudizio critico. Insegnargli il fact-checking è utile, ma è come insegnare a nuotare a qualcuno che vive nel deserto: la competenza è reale; l’ambiente non cambia.

La terza illusione è istituzionale e agisce alla scala delle politiche pubbliche. Poiché l’educazione non basta, si regola. L’AI Act europeo, i codici di condotta delle piattaforme, le authority sulla disinformazione: tutto ciò risponde alla logica corretta che certi problemi richiedono intervento strutturale, non solo individuale. Tuttavia, la regolazione, nella sua forma prevalente, arriva tardi e interviene sui prodotti, sulle pratiche, sui mercati, sulla trasparenza algoritmica. Non interviene, perché non sa come farlo, sul soggetto che è già stato formato dall’ambiente che si vuole regolare. Le norme sull’etichettatura dei contenuti generati dall’IA presuppongono un utente capace di elaborare criticamente quell’etichetta. Ma quell’utente è il prodotto di un decennio di ambienti algoritmici progettati per aggirare esattamente quella capacità elaborativa. La regolazione cura i sintomi con strumenti pensati per una malattia diversa.

Le tre illusioni non sono errori casuali. Sono il prodotto coerente di una stessa incomprensione di fondo: l’idea che il problema dell’IA sia un problema di relazione tra un soggetto già formato e uno strumento esterno. Se invece la mediazione algoritmica contribuisce a formare il soggetto mentre lo serve, allora il problema cambia natura, e cambia anche la domanda che dobbiamo imparare a fare.

Abitare consapevolmente

La domanda corretta non è «come regoliamo l’intelligenza artificiale» né «come insegniamo a usarla meglio». È una domanda più antica e più difficile: che tipo di soggetto stiamo diventando nell’ambiente che abbiamo costruito, e come vogliamo abitarlo?

Formulare la domanda in questi termini non è un gesto retorico. È un cambiamento di prospettiva con conseguenze pratiche. Se la mediazione algoritmica non è esterna al soggetto ma partecipa alla sua formazione, allora il problema non è più di controllo, ma di comprensione. Comprendere come si vive in un ambiente di mediazione pervasiva richiede strumenti concettuali che il dibattito pubblico, intrappolato nelle tre illusioni, non ha ancora sviluppato con sufficiente precisione.

Il primo strumento è riconoscere che gli algoritmi non sono agenti neutrali né agenti autonomi: sono mediatori asimmetrici. Asimmetrici perché la relazione non è tra pari: l’algoritmo non ha intenzioni, non ha vissuto, non ha interessi nel senso in cui li ha un essere umano. Ma è comunque un mediatore attivo, non uno sfondo passivo. Quando un sistema di raccomandazione decide cosa appare nel tuo feed, non esegue semplicemente una preferenza: interpreta, seleziona, amplifica, sopprime. Lo fa secondo logiche che non coincidono necessariamente con i tuoi interessi, ma con gli obiettivi di chi ha progettato il sistema. Riconoscere questa asimmetria significa uscire sia dall’ingenuità della neutralità sia dall’eccesso opposto che attribuisce agli algoritmi una soggettività che non possiedono.

Il secondo strumento è capire che questa mediazione lavora principalmente a livello delle disposizioni, non delle scelte. Le scelte si possono educare, regolare, correggere. Le disposizioni si formano lentamente, attraverso l’esposizione ripetuta a certi ambienti, e altrettanto lentamente si trasformano. Un ambiente che premia la reazione immediata, la semplificazione e la conferma forma nel tempo una certa soglia di attenzione, una certa tolleranza all’ambiguità, una certa aspettativa su come funziona la comunicazione. Questo non accade per decisione consapevole: accade perché ogni ambiente in cui viviamo lascia tracce nel modo in cui percepiamo, giudichiamo, rispondiamo. Gli ambienti digitali non fanno eccezione, ma hanno una caratteristica specifica: sono progettati intenzionalmente per produrre certi comportamenti e si adattano in tempo reale per ottimizzarne la produzione.

Questi due strumenti concettuali non sono una teoria completa né una risposta definitiva. Sono una diagnosi più precisa del problema e una diagnosi più precisa permette risposte più adeguate, che non coincidono né con la demonizzazione della tecnologia né con la resa entusiasta a essa.

Cosa significa concretamente abitare consapevolmente un ambiente di mediazione algoritmica? Non significa disconnettersi, che è una risposta privatistica e impraticabile per la maggior parte delle persone. Non significa affidarsi alla regolazione come unico presidio, che è una risposta necessaria, ma insufficiente. Significa sviluppare, individualmente e collettivamente, la capacità di riconoscere quando l’ambiente sta lavorando su di noi, prima e più di quanto noi lavoriamo su di esso. Significa chiedersi non solo «cosa sto scegliendo», ma «come è stato configurato lo spazio delle mie scelte». Significa che la formazione, a scuola come nelle istituzioni, non può limitarsi a trasmettere competenze digitali, ma deve formare ciò che potremmo chiamare una consapevolezza ecologica dell’ambiente mediale: la capacità di percepire la struttura dell’ambiente in cui si agisce, non solo le singole azioni che vi si compiono.

La riflessione sull’ambiente come fattore formativo ha radici profonde nella pedagogia, nella psicologia sociale, nella sociologia. Ciò che è nuovo è la scala, la pervasività e la velocità di adattamento degli ambienti algoritmici contemporanei, che rendono urgente applicare quella riflessione con una precisione che finora non abbiamo ritenuto necessaria. La posta in gioco non è la qualità dell’esperienza digitale. È la qualità del soggetto che quell’esperienza contribuisce a formare. E questo è un problema che nessuna app, nessun codice di condotta e nessun curriculo di alfabetizzazione digitale può risolvere da solo, perché riguarda la domanda più fondamentale che una società può porsi: che tipo di esseri umani vogliamo diventare e quali ambienti siamo disposti a costruire, o a tollerare, per diventarlo.