Domande Può una macchina pensare?La stanza cinese

Può una macchina pensare?Manca la comprensione

La stanza cinese

L'argomento della stanza cinese (Searle)

John Searle 1932 · 2025La coscienza è un fatto reale e irriducibile della vita interiore; negarla significa non vedere ciò che abbiamo sotto gli occhi.

Vedi la scheda

Che cosa sostiene

Dunque eseguire un programma non basta per comprendere. Nessun programma, da solo, costituisce una mente: servirebbe qualcos'altro, come i poteri causali di un cervello.

Perché

Un programma manipola simboli in base alla sola forma, il che non basta per comprenderne il significato.

La stessa idea attraverso la storia

Gottfried Wilhelm Leibniz1714Leibniz immagina un mulino: se entrassimo in una macchina che pensa, vedremmo soltanto parti che si spingono l'una con l'altra, mai una percezione. L'idea è vicina: guardare il meccanismo non rivela la comprensione.

John Searle1980Nell'articolo della rivista Behavioral and Brain Sciences, Searle immagina un uomo chiuso in una stanza che riceve caratteri cinesi e un manuale di regole in inglese, e rimanda risposte senza capire il cinese.

John Searle1990Dieci anni dopo, in Scientific American, Searle riassume il ragionamento in pochi assiomi: i programmi sono formali, le menti hanno un contenuto, la sintassi non basta a produrre significato. È la forma che presentiamo.

In breve

«La stanza cinese» è un argomento di John Searle («Minds, Brains, and Programs», 1980; «Is the Brain's Mind a Computer Program?», 1990, 1980) sulla domanda «Può una macchina pensare?» (risposta: manca la comprensione). La sua tesi: Dunque eseguire un programma non basta per comprendere. Nessun programma, da solo, costituisce una mente: servirebbe qualcos'altro, come i poteri causali di un cervello. Secondo la verifica logica di AskPhilosophy (solutore Z3), la conclusione segue effettivamente dalle sue 3 premesse. AskPhilosophy presenta 6 obiezioni, 5 delle quali con una risposta documentata, e il testo originale di ciascuna premessa, verificato parola per parola.

«Minds, Brains, and Programs», 1980; «Is the Brain's Mind a Computer Program?», 1990

Valido

Immagina di essere chiuso in una stanza. Da una fessura ti passano dei testi in cinese, che non sai leggere: per te sono solo disegni. Hai un grosso manuale di regole, scritto in italiano, che dice: «quando ricevi questa sequenza di segni, rimanda quest'altra sequenza». Segui le regole e rimandi dei segni. Dall'esterno, le tue risposte sono quelle di un vero parlante cinese. Ma tu non hai capito una parola. John Searle (1980) ne conclude che anche un computer che superasse il test di Turing non comprenderebbe nulla: farebbe come te, seguirebbe regole su forme. Il significato non nasce dalle sole regole. L'argomento mira alla tesi dell'IA «forte» (pensare è eseguire il programma giusto), non all'idea che una macchina possa un giorno pensare. Searle stesso afferma che il cervello è una macchina che pensa.

clicca su una premessa per rifiutarla

Se accetti tutte le premesse, la logica ti obbliga ad accettare la conclusione. Il dibattito riguarda dunque le premesse.

Verificato da un solutore logico: è impossibile che tutte le premesse siano vere e la conclusione falsa.

L'argomento è valido: se un programma da solo è formale (P1), se il formale non dà significato (P3) e se una mente che comprende ha significato (P2), allora un programma da solo non è una mente. Il dibattito riguarda P3. Searle la dimostra con l'esperimento mentale; i suoi avversari dicono che l'esperimento non dimostra nulla, oppure che non mira al sistema giusto.

Analogia. Chi copia perfettamente uno spartito senza saper leggere la musica non suona musica. Copiare forme non è comprendere. Resta da stabilire se questa analogia si adatti a un sistema immenso e veloce.

Obiezioni

Ogni obiezione è una conversazione: clicca per vedere chi risponde e a che punto è il dibattito.

La risposta del sistema (Berkeley) 1980 · attacca la premessa 3

L'uomo da solo non comprende il cinese, è vero. Ma è solo una parte di un insieme: l'uomo, il manuale, la carta, gli elenchi di segni. È questo insieme che comprende, come un neurone non comprende nulla eppure un cervello sì.

Searle risponde

John Searle 1980

Searle risponde: l'uomo impari a memoria il manuale e gli elenchi, e faccia tutti i calcoli a mente. Allora contiene l'intero sistema. Continua a non comprendere nulla di cinese, quindi nemmeno il sistema lo comprende, dato che nel sistema non c'è nulla che non sia in lui.

Daniel Dennett e Douglas Hofstadter 1981

Dennett e Hofstadter rispondono che l'esperimento inganna la nostra intuizione. Ci identifichiamo con l'uomo, che è solo un piccolo ingranaggio, come il processore di un computer, e ci immaginiamo un piccolo manuale. Ma un programma capace di conversare come un parlante cinese sarebbe immensamente complesso. Che l'uomo non comprenda non ci dice che cosa faccia il sistema che egli esegue.

Vedi il seguito del dibattito (1)

John Searle 1980

Searle aveva previsto l'idea di un sottosistema che comprenderebbe il cinese senza che l'uomo lo sappia. Risponde che l'unica ragione per crederlo è che il sistema supera il test di Turing, il che è esattamente il punto in discussione: la risposta del sistema presuppone ciò che andava dimostrato.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: la comprensione può essere una proprietà di un sistema nessuna delle cui parti comprende? Per i sostenitori della risposta del sistema, sì, come nel caso di un cervello. Per Searle, bisogna mostrare che un tale sistema comprende, non presupporlo. Nessuna delle due parti ha vinto.

La risposta del robot (Yale) 1980 · attacca la premessa 2

Mettiamo il computer dentro un robot, con una telecamera, braccia e gambe. Il robot vede, agisce, vive nel mondo. Il significato nasce dal legame con le cose, non dai soli segni: il robot comprenderebbe.

Searle risponde

John Searle 1980

Searle osserva anzitutto che questa risposta ammette già che pensare non sia soltanto manipolare segni. Poi rimette l'uomo nella stanza: alcuni segni provengono dalla telecamera, altri comandano i motori, ma lui non lo sa. Queste capacità aggiungono segni, non comprensione.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: il legame con il mondo crea il significato? Searle ritiene che anche questo legame arrivi sotto forma di segni. Altri, come i sostenitori della cognizione incarnata, pensano che un corpo e una vita facciano una vera differenza. Punto aperto: nessuna risposta largamente accettata.

La risposta del simulatore di cervello (Berkeley e MIT) 1980 · attacca la premessa 3

Scriviamo un programma che simuli, neurone per neurone, il cervello di un parlante cinese. Prende cinese in ingresso, imita la struttura delle sue sinapsi e restituisce cinese in uscita. Rifiutarsi di dire che comprende equivarrebbe a rifiutarsi di dirlo del cervello stesso.

Searle risponde

John Searle 1980

Searle risponde con i tubi dell'acqua: l'uomo manovra rubinetti che imitano le sinapsi. Le risposte giuste escono, ma né l'uomo né i tubi comprendono. La simulazione copia la cosa sbagliata del cervello: la sua forma, non le sue proprietà causali, che producono l'intenzionalità.

Paul e Patricia Churchland 1990

I Churchland rispondono che la stanza di Searle è un calcolatore che tratta i segni uno alla volta. Un cervello lavora con milioni di connessioni in parallelo, e così le reti neurali. Non è la macchina che l'esperimento mette alla prova: non dimostra nulla contro un sistema parallelo.

Vedi il seguito del dibattito (1)

John Searle 1990

Searle risponde con una «palestra cinese»: un gran numero di uomini, ciascuno nel ruolo di un neurone, lavorano in parallelo. Nessuno comprende il cinese, e nemmeno la palestra. Il parallelismo non cambia nulla, perché la palestra compie pur sempre soltanto operazioni formali.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: una simulazione perfetta di un cervello riproduce ciò che conta, o soltanto la sua forma? Searle dice che la simulazione non riproduce i poteri causali del cervello, come la simulazione di una tempesta non bagna nessuno. I suoi avversari dicono che conta solo l'organizzazione. Punto aperto.

La risposta delle altre menti (Yale) 1980 · attacca la conclusione

Come sapete che gli altri capiscono il cinese, o qualsiasi altra cosa? Solo dal loro comportamento. Il computer può superare gli stessi test. Se attribuiamo il pensiero agli altri su questa base, dobbiamo attribuirlo anche al computer. È la posizione di Turing: il test di comportamento è il nostro unico criterio.

Searle risponde

vedi l'argomento

John Searle 1980

Searle risponde che il problema non è come sappiamo che gli altri pensano, ma che cosa attribuiamo loro quando diciamo che pensano. Un calcolo e il suo risultato possono esistere senza un pensiero: il comportamento non può dunque essere ciò che attribuiamo.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: il comportamento è tutto ciò che possiamo sapere del pensiero altrui, o ne è soltanto il segno? Searle dice che la questione non è come attribuiamo il pensiero, ma che cosa attribuiamo. Punto aperto.

Paul e Patricia Churchland (la stanza luminosa) 1990 · attacca la premessa 3

Immaginiamo qualcuno che agita un magnete in una stanza buia: non appare alcuna luce. Dobbiamo concludere che la luce non è fatta di onde elettromagnetiche? No: la stanza è troppo lenta. Allo stesso modo, l'esperimento di Searle, troppo lento, non dimostra che la sintassi non possa mai produrre significato.

Searle risponde

John Searle 1990

Searle risponde che l'analogia non regge: le onde elettromagnetiche hanno poteri fisici, mentre i simboli non hanno alcuna proprietà fisica che produca significato. Per lui la sintassi non esiste in natura: è l'osservatore che vede un computer come se stesse calcolando.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: P3 è un fatto accertato o un'intuizione? Searle la considera una verità di logica, i Churchland una questione empirica. Punto aperto: non esiste una risposta largamente accettata.

Daniel Dennett 1980 · attacca la conclusione

L'idea di un potere speciale del cervello, che produrrebbe «intenzionalità» come si produce il latte, non è spiegata: Searle non dice che cosa sarebbe questo potere. Per Dennett anche il cervello è una macchina, e nulla vieta che un'altra macchina faccia la stessa cosa.

senza risposta

Searle non ha mai risposto a questa obiezione.

A che punto è il dibattito (nostra sintesi)Il punto di disaccordo: Searle deve dire di che cosa sono fatti i «poteri causali» del cervello? Egli risponde che è una questione di biologia, non di filosofia. I suoi avversari ritengono che, senza una risposta, la sua conclusione resti incompleta. Punto aperto.

Cosa dicono le voci di oggi

Lo difendono

John LennoxUsa la stanza cinese per dire che superare il test di Turing non dimostra la coscienza.

Lo criticano

Daniel DennettDice che Searle travisa il tipo di programma che un computer eseguirebbe: simulare a mano un programma che supera il test di Turing richiederebbe migliaia di miliardi di fogli di carta, quindi immaginarne uno banale è fuorviante.