DomandePuò una macchina pensare?Il gioco dell'imitazione: sostituire la domanda con un test
Può una macchina pensare?Pensare è calcolare

Il gioco dell'imitazione: sostituire la domanda con un test

Il test di Turing

Alan Turing 1912 · 1954Matematico, propone di sostituire la domanda «Può una macchina pensare?» con un gioco di imitazione.
Vedi la scheda
Che cosa sostiene

Dunque, se una macchina non può essere distinta da un essere umano per le sue risposte, non abbiamo più ragione di negarle il pensiero di quanta ne abbiamo di negarlo agli altri esseri umani.

Perché

Degli altri esseri umani conosciamo soltanto le risposte; se una macchina risponde allo stesso modo, non abbiamo alcuna ragione di negarle il pensiero.

In breve

«Il gioco dell'imitazione: sostituire la domanda con un test» è un argomento di Alan Turing («Computing Machinery and Intelligence», Mind, 1950) sulla domanda «Può una macchina pensare?» (risposta: pensare è calcolare). La sua tesi: Dunque, se una macchina non può essere distinta da un essere umano per le sue risposte, non abbiamo più ragione di negarle il pensiero di quanta ne abbiamo di negarlo agli altri esseri umani. Secondo la verifica logica di AskPhilosophy (solutore Z3), l'argomento è valido solo se si ammette una premessa che l'autore non formula (P4). AskPhilosophy presenta 5 obiezioni, 4 delle quali con una risposta documentata, e il testo originale di ciascuna premessa, verificato parola per parola.

«Computing Machinery and Intelligence», Mind, 1950
Valido con una premessa implicita

Nel 1950 Turing giudica la domanda «Le macchine possono pensare?» troppo vaga per essere discussa, poiché ciascuno dà alle parole «macchina» e «pensare» un proprio significato. La sostituisce con un gioco: un interrogante pone domande scritte a un essere umano e a una macchina, senza vederli. Se la macchina viene scambiata per l'essere umano, non abbiamo più ragione di negarle il pensiero di quanta ne abbiamo di negarlo agli altri esseri umani, il cui pensiero giudichiamo solo dalle loro risposte. Nello stesso articolo confuta nove obiezioni.

P1La domanda «Le macchine possono pensare?» dipende dal significato che si dà alle parole e non si risolve con un sondaggio. Va sostituita con una domanda affine, formulata in termini sufficientemente precisi.
P2La domanda sostitutiva è quella del gioco: un interrogante che non vede i propri interlocutori sbaglia altrettanto spesso quando una macchina fa la parte di uno di essi, come quando a giocare sono un uomo e una donna?
P3Per gli altri esseri umani non abbiamo nient'altro che le loro risposte: pretendere di essere noi stessi quella persona per sapere che pensa è solipsismo. Per cortesia, per convenzione ammettiamo che ognuno pensi.
P4 · premessa implicitaSe una macchina è indistinguibile da un essere umano per le sue risposte, gli indizi di cui disponiamo sono gli stessi per lei e per l'essere umano. Negare il pensiero all'una e concederlo all'altro richiede dunque una ragione ulteriore, e non ce n'è alcuna.
Dunque, se una macchina non può essere distinta da un essere umano per le sue risposte, non abbiamo più ragione di negarle il pensiero di quanta ne abbiamo di negarlo agli altri esseri umani.

clicca su una premessa per rifiutarla

Se accetti tutte le premesse, la logica ti obbliga ad accettare la conclusione. Il dibattito riguarda dunque le premesse.
Verificato da un solutore logico: è impossibile che tutte le premesse siano vere e la conclusione falsa.
Senza la premessa implicita: Senza P4, il computer trova un caso in cui la macchina dà le stesse risposte dell'umano e in cui, tuttavia, c'è una ragione per negarle il pensiero (per esempio, sappiamo che si limita a recitare risposte già pronte).
Valida con P4. P1 e P2 trasformano la domanda in un test di comportamento; P3 dice che, per gli esseri umani, il comportamento è il nostro unico criterio. P4 collega le due cose: stessi indizi, stessa conclusione. Turing non lo scrive in forma di sillogismo, ma è ciò che la sua risposta a Jefferson presuppone. Senza P4, nulla vieta di trattare la macchina diversamente dall'essere umano nonostante risposte identiche.
Analogia. Non puoi entrare nella testa del tuo vicino, eppure sei sicuro che pensi, perché ti risponde in modo sensato. Turing si chiede perché dovremmo cambiare regola se a rispondere è una macchina.

Obiezioni

5

Ogni obiezione è una conversazione: clicca per vedere chi risponde e a che punto è il dibattito.

Geoffrey Jefferson 1949 · attacca la premessa 3

Finché una macchina non potrà scrivere un sonetto o comporre un concerto a causa di pensieri ed emozioni provati, e non per una caduta casuale di simboli, non potremo dire che la macchina eguaglia il cervello. Dovrebbe sapere di averlo scritto e sentirlo.

Turing risponde
Alan Turing 1950 · La risposta di Turing
Turing risponde che questa obiezione conduce al solipsismo: si saprebbe solo di pensare se stessi, mai che un altro pensi. Invece di discutere senza fine, si ammette per convenzione che tutti pensino. Egli propone un esame orale, in cui l'interrogante verifica se il testimone comprende davvero ciò che dice.
A che punto è il dibattito (nostra sintesi)Nostra sintesi: Turing mostra che l'obiezione della coscienza, spinta fino in fondo, vale anche per gli esseri umani. I critici successivi (Searle, più avanti) sostengono che le risposte non bastano a provare la comprensione: un disaccordo di fondo su ciò che conta come prova.
Ada Lovelace 1843 · attacca la conclusione

La macchina analitica non ha alcuna pretesa di originare alcunché. Può fare tutto ciò che sappiamo ordinarle di eseguire. Una macchina non può dunque mai fare nulla di davvero nuovo, cosa che il pensare richiederebbe.

Turing risponde
vedi l'argomento
Alan Turing 1950 · La risposta di Turing
Turing risponde anzitutto che la macchina di Babbage, di cui parlava Lovelace, era un computer universale e poteva in linea di principio imitare qualsiasi macchina. In secondo luogo, che le macchine lo sorprendono molto spesso, perché non calcola in anticipo ciò che faranno.
A che punto è il dibattito (nostra sintesi)Nostra sintesi: Turing prevede che il suo critico dirà che la sorpresa viene dalla nostra mente e non dalla macchina. Il disaccordo riguarda che cosa significhi «creare»: essere imprevedibile per noi, oppure produrre ciò che il programmatore non aveva stabilito. Un punto controverso.
Kurt Gödel 1931 · attacca la conclusione

In ogni sistema logico sufficientemente potente si possono formulare enunciati che il sistema non può né dimostrare né confutare. Una macchina, essendo un tale sistema, ha dunque domande a cui non può rispondere, mentre la mente umana non avrebbe un simile limite.

Turing risponde
Alan Turing 1950 · La risposta di Turing
Turing ammette che ogni macchina data abbia dei limiti, ma si è solo affermato, senza prova, che l'intelletto umano non ne abbia. Anche noi diamo risposte sbagliate, e per ogni macchina può esserci un uomo più abile, ma anche una macchina più abile.
John Lucas 1961
Lucas sostiene che, per ogni macchina data, una mente può vedere la verità dell'enunciato di Gödel di quella macchina, che la macchina stessa non può dimostrare: la mente dunque non è una macchina.
vedi l'argomento
A che punto è il dibattito (nostra sintesi)Nostra sintesi: il limite delle macchine è stabilito dalla matematica; ciò che è controverso è se la mente umana vi sfugga. Un punto aperto, si veda l'argomento di Lucas e Penrose.
John Searle 1980 · attacca la premessa 4

Un uomo chiuso in una stanza che segue un programma per manipolare segni cinesi può dare risposte indistinguibili da quelle di un parlante cinese senza capire una parola di cinese. Le stesse risposte non provano dunque la stessa comprensione.

un difensore risponde
vedi l'argomento
Nessuna risposta possibile: obiezione formulata nel 1980, dopo la morte dell'autore (1954).
Paul e Patricia Churchland difensore dell'argomento · 1990
I Churchland rispondono con un esperimento parallelo: agitare un magnete non produce luce visibile, ma ciò non dimostra che la luce non sia un moto elettromagnetico. L'intuizione «questo non è significato» non prova dunque che i simboli non possano mai produrlo.
A che punto è il dibattito (nostra sintesi)Nostra sintesi: Searle nega che la manipolazione di segni basti per il significato; i suoi critici contestano la forza dell'intuizione della stanza. Disaccordo di fondo su che cosa sia comprendere. Turing morì nel 1954 e non poté rispondere.
N
Ned Block 1981 · attacca la premessa 4

Si può immaginare una macchina che immagazzina in anticipo una risposta sensata per ogni possibile conversazione di durata limitata: un «Blockhead». Supererebbe il test con l'intelligenza di un jukebox. Superare il test non basta dunque per pensare: conta il modo in cui le risposte sono prodotte.

senza risposta
Nessuna risposta possibile: obiezione formulata nel 1981, dopo la morte dell'autore (1954).
A che punto è il dibattito (nostra sintesi)Nostra sintesi: Block mostra che le stesse risposte possono provenire da meccanismi molto diversi. I difensori del test dicono che una simile macchina è fisicamente impossibile e che il test riguarda macchine realistiche. Un punto aperto: nessuna risposta largamente accettata.