Questo articolo è pubblicato in contemporaneamente con il sito MagIA – Magazine IA che affronta i temi legati all’IA proponendo un nuovo modo di leggerli e affrontarli. La riflessione proposta accoglie le domande di un contributo di Vittorio di Tomaso pubblicato da MagIA – Magazine IA.

Vittorio Di Tomaso, laurea in filosofia del linguaggio, imprenditore, docente universitario  e presidente ICT dell’Unione Industriale di Torino, ha recentemente pubblicato su Magazine IA un interessante riflessione dal titolo La filosofia serve (ancora) all’Intelligenza Artificiale? L’articolo ripercorre le tappe principali dello sviluppo dell’IA con un focus particolare sul problema epistemologico.

La riflessione ha il suo fulcro nella domanda:

La filosofia serve all’AI perché bisogna risolvere la questione fondamentale, che è epistemologica: cosa significa che un sistema “conosce” qualcosa se non ha consapevolezza o intenzionalità? Senza una coscienza che struttura l’esperienza, il “sapere” delle macchine si riduce a pattern statistici, privi di una intenzionalità che possa legare la conoscenza al mondo

Di Tomaso osserva che l’esperienza e la conoscenza dell’IA avvengono all’interno di una struttura trascendente di kantiana memoria, cioè grazie alla struttura mentale e alle capacità umane che permettono di percepire, comprendere e organizzare il mondo. Se l’IA non ha categorie o schemi come spazio, tempo o causalità come può conoscere qualcosa? Che cosa significa «conoscere» per l’IA e quale valore di confidenza possiamo assegnare alle sue risposte?  Si domanda Di Tomaso:

siamo noi a interpretare questi output come “significativi”?

e, in conclusione, chiede:

C’è una soglia oltre la quale, senza un tipo di “struttura trascendentale” simile a quella kantiana, le macchine non possono accedere a una forma di conoscenza realmente autonoma e creativa?

Da qui la necessità che:

Filosofi e scienziati dell’IA possono dialogare, per ripensare insieme il significato di conoscenza e comprensione

La riflessione cui siamo invitati ci scuote dalla fascinazione ipnotica delle meraviglie tecnologiche e mostra ciò che spesso si desidera ignorare, cioè che l’IA, qualunque cosa sia, non è situata nel tempo e nello spazio come gli esseri viventi.

Non è la sola cosa che diverge nel rapporto uomo-macchina. La caratteristica principale, a mio avviso, è la separazione del linguaggio dal pensiero, la cesura tra l’aspetto razionale e quello verbale del logos antico, la pronuncia di frasi di senso compiuto da parte dell’IA che non pensa. Tenere in considerazione questo aspetto, libera l’IA dalla costrizione in categorie umane e dall’utilizzo di strumenti concettuali inadatti; al contrario, invita a pensare l’Intelligenza Artificiale come un agente non umano e a individuarne le caratteristiche.

Per rimanere nel campo epistemologico, analizziamo l’esperienza dell’IA. Consideriamo un sistema di domotica che regola la temperatura interna in base a quella esterna. Dopo alcune regolazioni manuali del padrone di casa, il sistema impara il clima più gradito modificando le proprie impostazioni. In realtà, il sistema correla l’input esterno con l’input interno, cioè i segnali inviati dai trasduttori che trasformano la temperatura in tensione elettrica. L’acquisizione della temperatura può essere pensata come un’esperienza del sistema? Il processo di correlazione tra la temperatura esterna e interna può essere descritto come conoscenza, come l’elaborazione delle esperienze maturate per la definizione di un contesto?

A ben guardare, è un tipo di conoscenza di cui facciamo ampiamente uso: affermiamo di conoscere qualcosa sebbene non abbiamo cognizione del funzionamento ma solo del suo input e output, azione e reazione. State leggendo su uno schermo di un dispositivo digitale, attraverso un’applicazione e ignorate come sia possibile trasformare una sequenza di bit 0 e 1 in lettere intellegibili sul display. Oppure quali sono i processi attuati per accendere il motore dell’automobile dopo che abbiamo premuto il tasto “start”. Non lo sappiamo e non ci preoccupiamo di saperlo… perché funziona. Millantiamo conoscenze  che non possediamo, utilizziamo conoscenze senza conoscenza. Una black box epistemica.

La conoscenza dell’IA è il risultato di correlazioni e dati espressi in impulsi elettrici, sequenze di 0 e 1, assenze e presenze. Questo tipo di conoscenza origina un linguaggio non semantico come la musica: il significato è deciso dagli ascoltatori sulla base delle emozioni suscitate. Un equivoco in cui il giudizio di valore estetico assurge a contenuto epistemologico.

Un’altra caratteristica della conoscenza dell’IA è l’assenza di causalità. La correlazione è una legge statistica indicante la tendenza di due variabili a mutare insieme in modo che a ciascun valore della prima corrisponda con una certa regolarità un valore nella seconda. La correlazione, a differenza della relazione, autorizza un discorso su fenomeni ed eventi senza indagarne preliminarmente le cause. È evidente come l’oblio delle cause sia in favore dell’approssimazione e, approssimando, l’uomo assegna giudizi di valore e criteri di affidabilità soggettivi.

Le correlazioni, a loro volta, sono definite nei processi di machine  e  deep learning, le fasi di addestramento in cui l’algoritmo analizza una enorme quantità di dati etichettandoli secondo regole proprie o imposte. La scelta dei dataset di addestramento è fondamentale sia per il successo dell’operazione sia per l’esclusione dei bias cognitivi e delle allucinazioni. Inoltre, le correlazioni finali rappresentano, in qualche modo, la comprensione dell’IA dei dataset e formano il modello di riferimento per ogni prompt o domanda che riceverà dagli utenti.

In altre parole, viviamo in un livello di complessità così elevato da non riuscire più a governare tutte le variabili in gioco, perciò costruiamo delle semplificazioni che rappresentano il  modello di riferimento per conoscere e comprendere la realtà; con l’IA, spesso comprendiamo la realtà cercando di adottare il modello che le macchine propongono. La novità del modello è il motivo dell’utilizzo pervasivo dell’IA: affascina la libertà con cui offre soluzioni totalmente innovative, è pensare out-of-the-box, fuori dagli schermi, fuori da qualsiasi condizionamento. Questo modello può essere una struttura trascendentale per l’IA? Può diventare quella per l’uomo?

L’IA assume le caratteristiche di uno strumento cognitivo proprio perché è libera dalle strutture di pre-comprensione, innate o acquisite che siano, Questo, a sua volta, genera altre domande, ad esempio: su quale fondamento basare un’etica dell’IA se non c’è semantizzazione? Non sono domande oziose se ricordiamo che abbiamo affidato all’IA le liste dei trapianti di organi, la comminazione di pene giudiziarie o l’accesso al credito, assicurazioni e lavoro. Inoltre, il modello costruito dall’IA è adattivo per l’uomo o per la macchina? Orienta verso un universo macchinico o umano?

Possiamo concludere con l’invito a considerare l’IA un agente non umano con peculiari caratteristiche: può fare esperienza, usa un linguaggio non semantico, ha una conoscenza basata sulla verosimiglianza cioè non scientifica ma probabilistica, è uno strumento cognitivo  e si forma una propria visione della realtà.

La filosofia  può e deve affiancare le altre scienze nel processo di ripensamento radicale degli strumenti di analisi e conoscenza, di costituzione di nuovi apparati linguistici e culturali, di aumento della consapevolezza umana (anziché quella tecnologica) e comprensione della complessità delle attuali relazioni in cui è inserita l’agency dell’IA.