DomandePuò una macchina pensare?Un sottomarino nuota? Una questione di decisione su una parola, non di fatto
Può una macchina pensare?Una domanda mal posta

Un sottomarino nuota? Una questione di decisione su una parola, non di fatto

I sommergibili nuotano? (Chomsky)

Noam Chomsky nato nel 1928Linguista che studia il linguaggio e la mente come oggetti naturali, e ritiene priva di senso la domanda «le macchine possono pensare?».
Vedi la scheda
Che cosa sostiene

Dunque la domanda «una macchina può pensare?» è mal posta: non è una domanda a cui un esperimento, come il test di Turing, possa rispondere.

Perché

Chiedersi se una macchina pensi è come chiedersi se un sottomarino nuoti: scegliamo come estendere una parola, non c'è alcun fatto da scoprire.

La stessa idea attraverso la storia
Alan Turing1950Turing giudica la domanda «Le macchine possono pensare?» troppo priva di senso per meritare una discussione e prevede che l'uso delle parole cambierà.Edsger W. Dijkstra1984Dijkstra scrive che la domanda è più o meno altrettanto pertinente di quella se i sommergibili sappiano nuotare.
Noam Chomsky1996Chomsky, in Powers and Prospects, fa dell'immagine un argomento: si tratta di questioni di decisione sull'estensione di una parola, non di questioni di fatto.
In breve

«Un sottomarino nuota? Una questione di decisione su una parola, non di fatto» è un argomento di Noam Chomsky (Powers and Prospects, 1996, 1996) sulla domanda «Può una macchina pensare?» (risposta: una domanda mal posta). La sua tesi: Dunque la domanda «una macchina può pensare?» è mal posta: non è una domanda a cui un esperimento, come il test di Turing, possa rispondere. Secondo la verifica logica di AskPhilosophy (solutore Z3), l'argomento è valido solo se si ammette una premessa che l'autore non formula (P4). AskPhilosophy presenta 3 obiezioni, 1 delle quali con una risposta documentata, e il testo originale di ciascuna premessa, verificato parola per parola.

Powers and Prospects, 1996
Valido con una premessa implicita

In un capitolo di Powers and Prospects (1996), il linguista Noam Chomsky critica un approccio popolare all'intelligenza artificiale: il test di Turing, che cerca di stabilire se un oggetto «manifesta intelligenza». Secondo lui, chiedersi se un computer giochi a scacchi, capisca il cinese o pensi è come chiedersi se i robot possano uccidere o se gli aerei volino: una questione di decisione, non di fatto. Un sommergibile scambiato per una balena non dimostra che nuoti, né il contrario. Chomsky sostiene che lo stesso Turing lo avesse compreso. Una precisazione: si cita talvolta un'osservazione orale di Chomsky sul giapponese (dove si direbbe che un sommergibile nuota); non l'abbiamo trovata in alcun testo verificabile e non la utilizziamo.

P1Chiedersi se un computer giochi a scacchi, traduca il cinese o pensi è come chiedersi se gli aerei volino o se i sommergibili nuotino.
P2Tali questioni sono questioni di decisione, non di fatto: si tratta di stabilire se adottare una certa estensione metaforica di un uso comune. Per il sommergibile, tutti concordano che non c'è alcun fatto da accertare.
P3Lo stesso Turing osservò che la domanda «le macchine possono pensare?» è troppo priva di senso per meritare una discussione, e prevedeva che l'uso sarebbe cambiato, come per «volare» in inglese ma non per «nuotare».
P4 · premessa implicitaDietro la scelta della parola «pensare» non c'è alcuna altra questione di fatto da porre sulla macchina: tutto si riduce a una decisione di vocabolario.
Dunque la domanda «una macchina può pensare?» è mal posta: non è una domanda a cui un esperimento, come il test di Turing, possa rispondere.

clicca su una premessa per rifiutarla

Se accetti tutte le premesse, la logica ti obbliga ad accettare la conclusione. Il dibattito riguarda dunque le premesse.
Verificato da un solutore logico: è impossibile che tutte le premesse siano vere e la conclusione falsa.
Senza la premessa implicita: Senza P4, il computer rappresenta un caso in cui la parola «pensare» è questione di decisione, ma in cui resta una vera questione di fatto su ciò che la macchina prova: la domanda, dunque, non è vuota.
Valido con P4. È questa premessa nascosta che le obiezioni attaccano: sostengono che, dietro la parola, resti una questione di fatto (la comprensione, l'esperienza vissuta). L'argomento di Chomsky mira al test di Turing: non esclude che si studi scientificamente come funzionano le menti o i programmi.
Analogia. Un aereo «vola», una piuma «vola», il tempo «vola». Dove comincia il volo vero e proprio? Nessun esperimento può dirlo: occorre scegliere un uso della parola. Chomsky cita lui stesso l'aereo e il sommergibile; il resto è nostro.

Obiezioni

3

Ogni obiezione è una conversazione: clicca per vedere chi risponde e a che punto è il dibattito.

Alan Turing 1950 · attacca la conclusione

Turing non si limita a scartare la domanda: la sostituisce con un'altra, «strettamente collegata e espressa in termini relativamente non ambigui», il gioco dell'imitazione. Questa nuova domanda è di fatto: un programma può ingannare un interrogante tanto spesso quanto un uomo? Il test risponderebbe dunque a qualcosa di preciso.

Chomsky risponde
vedi l'argomento
Noam Chomsky 1996 · Risposta di Chomsky
Chomsky risponde che la somiglianza con il test cartesiano, che cercava di stabilire se un oggetto abbia la proprietà di avere una mente, è fuorviante. Gli esperimenti di Cartesio erano come un test della cartina al tornasole per l'acidità; non è così per il dibattito sull'IA.
Il dibattito continua (nostra sintesi) I sostenitori del test rispondono che il gioco dell'imitazione misura una prestazione precisa, il che basta per una scienza dell'ingegneria. Chomsky non lo contesta: nega che ciò risponda alla domanda «una macchina pensa?» (nostra sintesi).
A che punto è il dibattito (nostra sintesi)Il disaccordo riguarda ciò che il test di Turing misura: una prestazione (ciò che propone Turing) o una proprietà della macchina (ciò che, secondo Chomsky, non misura). Entrambi i campi concordano che la domanda iniziale sia vaga (nostra sintesi).
John Searle 1980 · attacca la premessa 4

La questione della comprensione non è una questione di parole. Un computer che segue un programma manipola simboli senza sapere che cosa significhino: ha sintassi, non semantica. Stabilire se un programma basti per comprendere è, per Searle, «la domanda giusta da porre».

senza risposta
vedi l'argomento
Non abbiamo ancora individuato una risposta diretta di Chomsky nei suoi testi.
A che punto è il dibattito (nostra sintesi)Chomsky non risponde a Searle nel passo letto. Alcuni ritengono che la questione della comprensione sia reale e distinta da quella delle parole; altri ritengono che anche «comprendere» sia una parola che estendiamo. Nessun consenso (nostra sintesi).
David Chalmers 1995 · attacca la premessa 4

Anche se mettiamo da parte le parole «pensare» e «comprendere», resta una domanda che non è verbale: c'è qualcosa che si prova a essere questa macchina? Chalmers parla del «vero problema difficile», quello dell'esperienza.

senza risposta
vedi l'argomento
Non abbiamo ancora individuato una risposta diretta di Chomsky nei suoi testi.
A che punto è il dibattito (nostra sintesi)Punto aperto: Chomsky non parla di coscienza nel passo letto. Alcuni ritengono che la questione dell'esperienza sia reale e distinta dalle parole; altri pensano che scomparirà con una migliore scienza del cervello (nostra sintesi).