L'esperimento mentale della Stanza Cinese, concepito dal filosofo americano John Searle nel 1980 all'interno del saggio Minds, Brains, and Programs, è uno dei pilastri della filosofia della mente e dell'intelligenza artificiale.
Oggi, a decenni di distanza, questo scenario ipotetico è tornato prepotentemente al centro del dibattito scientifico perché descrive con sconvolgente precisione il funzionamento dei moderni Large Language Models (LLM) come ChatGPT, Claude o Gemini.
Ecco una spiegazione dettagliata dell'esperimento e della sua immediata applicazione alle tecnologie attuali.
L'esperimento mentale della Stanza Cinese
Immaginiamo una stanza chiusa all'interno della quale si trova un uomo che parla solo ed esclusivamente l'inglese. Questo uomo non conosce una singola parola di cinese, non ne riconosce i simboli e per lui gli ideogrammi sono solo "trattini privi di senso".
All'interno della stanza, l'uomo ha a disposizione tre elementi:
Un massiccio libro di regole (scritto in inglese).
Fogli di carta con sopra impressi dei simboli cinesi.
Fogli di carta bianchi e matite.
Fuori dalla stanza ci sono dei madrelingua cinesi. Questi ultimi introducono nella stanza, attraverso una fessura, dei fogli con delle scritte in cinese (che, a loro insaputa, sono delle domande).
L'uomo nella stanza prende il foglio e consulta il libro di regole. Il libro non traduce i simboli in inglese, ma contiene istruzioni puramente sintattiche del tipo: "Se ricevi il simbolo 𝕏 seguito dal simbolo 𝕐, allora scrivi sul foglio bianco il simbolo ℤ e passalo all'esterno".
L'uomo esegue meccanicamente gli ordini, copia i simboli richiesti e restituisce il foglio all'esterno. Fuori dalla stanza, i madrelingua cinesi leggono il foglio e vi trovano una risposta perfettamente sensata e coerente in cinese.
[Persone esterne] ──(Domanda in Cinese)──> [ Stanza Cinese: Uomo + Libro ][Persone esterne] <──(Risposta in Cinese)── [ Di fatto manipola solo simboli ]La conclusione di Searle
Per le persone fuori dalla stanza, l'entità all'interno "parla e capisce il cinese". Ma la realtà interna è diversa: l'uomo nella stanza non capisce assolutamente nulla di cinese. Ha semplicemente manipolato simboli grafici in base alla loro forma (sintassi) senza avere la minima idea del loro significato (semantica).
Searle ha usato questo esperimento per attaccare la tesi dell'IA Forte (l'idea che un computer programmato adeguatamente possieda una vera mente e una reale comprensione). La sua celebre massima è:
La sintassi non è di per sé sufficiente per la semantica.
L'applicazione ai moderni LLM (Large Language Models)
I moderni modelli linguistici di grandi dimensioni sembrano incarnare alla perfezione l'entità "Stanza Cinese". Quando interagiamo con un LLM, la fluidità, l'arguzia e l'apparente profondità delle risposte ci spingono istintivamente ad attribuire alla macchina una comprensione cosciente. Ma cosa succede davvero sotto il cofano?
| Elemento della Stanza Cinese | Corrispettivo nei moderni LLM |
| L'uomo che non capisce il cinese | L'unità di calcolo / La CPU / La GPU. Esegue solo calcoli matematici binari (0 e 1). |
| Il libro di regole sintattiche | I pesi della rete neurale (miliardi di parametri) ottimizzati durante l'addestramento. |
| I simboli cinesi in ingresso | Il Prompt dell'utente, convertito in vettori numerici (token). |
| L'output restituito all'esterno | Il testo generato dalla macchina tramite calcolo probabilistico. |
1. I motori statistici della parola successiva
Un LLM non genera testo perché "pensa" a un concetto e cerca le parole per esprimerlo. Un LLM predice, parola per parola (o meglio, token per token), quale sia il frammento di testo statisticamente più probabile che dovrebbe seguire il testo precedente, basandosi su pattern appresi da miliardi di testi umani.
Se chiedi a un LLM: "Qual è il colore del cielo?", il modello non "vede" il cielo nella sua mente, né sperimenta il concetto di azzurro. Sa semplicemente che nel suo gigantesco "libro di regole" statistico, alla sequenza di simboli "Qual è il colore del cielo?" segue con una probabilità vicina al 99% la sequenza di simboli "Il cielo è azzurro". È manipolazione di simboli formali allo stato puro.
2. Il fenomeno delle "Allucinazioni"
La Stanza Cinese spiega perfettamente perché le IA soffrono di allucinazioni (ovvero quando inventano fatti storici, citazioni o soluzioni matematiche errate con assoluta fermezza).
Poiché la macchina opera solo sulla forma e sulla probabilità statistica delle parole e non sulla verità del mondo reale, genererà una risposta sintatticamente impeccabile e grammaticalmente perfetta che però è semanticamente falsa. L'uomo nella stanza ha seguito le regole del libro, ha composto una bellissima frase in cinese, ma non sa che quella frase descrive un evento mai avvenuto.
3. La differenza tra "Riconoscimento di Pattern" e "Intenzionalità"
I difensori dell'intelligenza artificiale spesso obiettano a Searle con la cosiddetta Risposta dei Sistemi: è vero che l'uomo nella stanza non capisce il cinese, ma l'intero sistema (uomo + libro + stanza) lo capisce.
Applicato agli LLM, questo argomento suggerisce che la comprensione emerga dalle complesse relazioni matematiche dello spazio vettoriale in cui le parole sono mappate.
Tuttavia, anche nello spazio vettoriale più avanzato, manca un elemento filosofico fondamentale che Searle chiama intenzionalità: la capacità di uno stato mentale di essere diretto verso o di riguardare qualcosa nel mondo esterno. Se una macchina non ha un corpo, non ha bisogni, non ha esperienza biologica del mondo e non interagisce fisicamente con gli oggetti, i suoi simboli rimangono "non ancorati" (the symbol grounding problem). Riferiscono simboli ad altri simboli, in un cerchio infinito che non tocca mai la realtà.
Conclusione
La Stanza Cinese ci offre una lente critica essenziale: ci insegna a non confondere la competenza con la comprensione.
I moderni LLM sono stanze cinesi di dimensioni colossali e straordinariamente veloci. Hanno dimostrato che è possibile produrre una quantità quasi infinita di output linguistici intelligenti senza il bisogno di una mente cosciente. Il loro successo non smentisce Searle; al contrario, dimostra quanto la pura sintassi possa essere potente e ingannevole se lasciata fluttuare nel vuoto della semantica.
Nessun commento:
Posta un commento