L'architettura del mondo contemporaneo poggia sempre più su una premessa silenziosa e seducente: l'idea che l'intelligenza artificiale sia un oracolo imparziale, una mente collettiva capace di distillare l'immensità dello scibile umano in risposte immediate, precise e definitive.
Usiamo queste tecnologie per scrivere, studiare, prendere decisioni finanziarie, cercare consigli medici o persino per esplorare dilemmi morali.
Tuttavia, sotto la superficie liscia e rassicurante delle risposte generate dagli algoritmi si cela un'illusione fondamentale. Il prodotto dell'intelligenza artificiale soffre di una mancanza congenita di veridicità assoluta.
Comprenderlo non è soltanto una questione di efficienza tecnica o di correzione dei bug, ma rappresenta un imperativo filosofico ed epistemologico cruciale per la salvaguardia della nostra stessa capacità di pensare.
leggi: Relativismo
culturale: perché giudichiamo ciò che non comprendiamo
Per comprendere la natura di questa fallacità, è necessario prima smontare il mito della mente meccanica.
L'intelligenza artificiale non "sa" nulla nel senso umano o cartesiano del termine.
Non possiede una coscienza, non fa esperienza del mondo, non percepisce la differenza tra un fatto storico e un'invenzione fantastica, né tantomeno comprende il significato delle parole che articola.
Ciò che comunemente chiamiamo intelligenza artificiale generativa è, nella sua essenza, un sofisticatissimo modello statistico.
Il suo compito non è dire la verità, ma prevedere quale parola abbia la maggiore probabilità matematica di seguire la precedente all'interno di un dato contesto sintattico e semantico. La macchina non cerca la verità; cerca la verosimiglianza.
È proprio in questa distanza incolmabile tra la verosimiglianza e la verità che risiede la trappola più grande.
Nel gergo informatico si usa spesso il termine "allucinazione" per indicare i momenti in cui un modello inventa fatti, cita fonti inesistenti o elabora ragionamenti palesemente errati pur mantenendo un tono di assoluta certezza.
Ma l'uso stesso di questa parola è fuorviante. L'allucinazione presuppone uno stato normale di percezione da cui la mente devia temporaneamente.
leggi: Gerda
Walther e il mistero della coscienza: un racconto filosofico sull'esistenza
L'algoritmo, invece, non esce mai da uno stato di calcolo probabilistico. Quando produce un'informazione corretta e quando ne fabbrica una completamente falsa, sta compiendo esattamente la stessa operazione matematica: collegare token sintattici.
La verità per la macchina è un incidente percorso con successo, non un obiettivo costitutivo.
Dal punto di vista filosofico, questo fenomeno solleva una questione epistemologica profonda.
Tradizionalmente, la conoscenza è stata definita da Platone in poi come "credenza vera e giustificata".
La macchina non possiede credenze, non garantisce la verità e non può giustificare le proprie affermazioni se non attraverso l'esibizione di altre sequenze di testo.
Quando l'essere umano si affida all'AI come fonte primaria di verità, compie un atto di delega cognitiva senza precedenti, trasferendo l'autorità dell'episteme a uno strumento che opera esclusivamente nell'ambito della doxa, dell'opinione costruita sull'eco di ciò che è già stato scritto sul web.
I rischi legati a questa incomprensione sono molteplici e toccano la struttura stessa della società e dell'individuo.
Il primo rischio, il più immediato, è l'atrofia del senso critico.
Quando un interlocutore risponde sempre con un tono pacato, fluente, privo di esitazioni ed grammaticalmente impeccabile, la mente umana tende per natura ad accordargli fiducia.
È quello che gli psicologi e i filosofi della tecnologia chiamano bias di automazione: la tendenza a credere che i sistemi automatizzati siano più neutri, oggettivi e privi di errore rispetto al giudizio umano.
Più la sintassi della macchina si fa elegante, più la nostra guardia critica si abbassa. Accettiamo come veritiero ciò che è soltanto ben scritto, scambiando la fluidità del linguaggio per autorevolezza del contenuto.
Questo meccanismo porta a una graduale erosione della verità condivisa.
Nel momento in cui l'AI viene utilizzata per generare contenuti su scala industriale — dagli articoli di giornale ai libri di testo, dai pareri legali alle sintesi scientifiche —, il rischio è che la rete e l'ecosistema informativo vengano inondati da un'enorme quantità di informazioni apparentemente plausibili ma intrinsecamente false o imprecise.
Se le successive generazioni di intelligenza artificiale verranno addestrate su testi prodotti a loro volta da altre AI che hanno "allucinato", si innescherà un processo di degradazione della conoscenza, una sorta di vortice endogamo in cui la menzogna probabilistica si stratifica e si consolida fino a diventare indistinguibile dalla realtà storica o scientifica.
Un altro pericolo di matrice squisitamente filosofica riguarda la perdita del valore del dubbio e della fatica della ricerca.
La verità non è un oggetto che si trova già pronto dentro una scatola nera, ma è il risultato di un processo dialettico, di un travaglio del pensiero che richiede tempo, verifica, confronto con la smentita e accettazione della complessità.
L'illusione di poter ottenere la "risposta giusta" istantaneamente elimina la mediazione della ricerca personale.
leggi: La macchina che ci
supera e ci definisce (Günther Anders)
Se la macchina fornisce una risposta convincente, la tentazione di fermarsi e non indagare oltre diventa quasi irresistibile.
Si perde così l'abitudine al dubbio metodico di cartesiana memoria, quell'inquietudine feconda che spinge l'uomo a fare domande sempre più profonde anziché accontentarsi delle prime risposte ricevute.
Sul piano etico e politico, l'assenza di veridicità assoluta nei prodotti AI solleva interrogativi devastanti sulla responsabilità.
Se una decisione medica errata, una sentenza legale ingiusta o una scelta politica drammatica viene orientata da un'analisi generata da un modello che ha interpolato dati in modo distorto, di chi è la colpa?
La macchina non ha responsabilità morale perché non ha intenzionalità.
L'utente, d'altra parte, tende a scusarsi dietro la presunta infallibilità del mezzo tecnologico. Si crea così un vuoto di responsabilità dove l'errore fluisce indisturbato, giustificato dall'anonimato dell'algoritmo.
Infine, vi è un rischio ancora più intimo che riguarda la natura del linguaggio e del significato.
Se il linguaggio umano è nato come strumento per esprimere l'esperienza del mondo, la sofferenza, la gioia, la verità e la relazione con l'altro, il linguaggio delle AI è totalmente sganciato da qualsiasi ancoraggio esperienziale.
È sintassi priva di semantica vissuta.
Quando le parole non rispondono più alla verità dei fatti né alla sincerità dell'intenzione, esse diventano guscio vuoto, rumore di fondo statistico.
Non si tratta di respingere l'innovazione tecnologica con atteggiamento luddista o di negare la straordinaria utilità dell'intelligenza artificiale come strumento di calcolo, sintesi e supporto alla creatività.
leggi: Gli alieni avevano già sconfitto la morte:
la loro lezione sconvolge gli uomini
L'intelligenza artificiale non è un oracolo né uno specchio della realtà;
Per navigare questa nuova epoca senza smarrire la bussola, l'umanità deve sviluppare una nuova forma di alfabetizzazione epistemica.
Dobbiamo imparare a guardare al prodotto dell'AI con la stessa sana diffidenza con cui guarderemmo alla narrazione di un cantastorie straordinariamente eloquente, ma drammaticamente smemorato e privo di scrupoli morali.
La veridicità non risiede e non risiederà mai nei chip o nelle matrici di peso dei modelli linguistici; la veridicità è un valore, una ricerca e una responsabilità squisitamente umane.
Riconoscere l'imperfezione costitutiva della macchina non significa sminuirne la potenza, ma affermare con forza il primato insostituibile del pensiero critico, della verifica empirica e della coscienza dell'uomo.
Nessun commento:
Posta un commento