Una macchina potrebbe pronunciare parole, ma senza sapere ciò che dice

I due criteri per distinguere una macchina da un uomo

René Descartes 1596 · 1650Dubitare di tutto per trovare ciò che resiste al dubbio.

Che cosa sostiene

Dunque una macchina con la forma di un uomo che ne imitasse le azioni non sarebbe un vero uomo: agirebbe senza conoscenza e non comprenderebbe ciò che dice.

Perché

Una macchina può pronunciare parole, ma la ragione serve in ogni circostanza, mentre gli organi hanno bisogno di una disposizione particolare per ogni caso.

In breve

«Una macchina potrebbe pronunciare parole, ma senza sapere ciò che dice» è un argomento di René Descartes (Discorso sul metodo, V, 1637) sulla domanda «Può una macchina pensare?» (risposta: manca la comprensione). La sua tesi: Dunque una macchina con la forma di un uomo che ne imitasse le azioni non sarebbe un vero uomo: agirebbe senza conoscenza e non comprenderebbe ciò che dice. Secondo la verifica logica di AskPhilosophy (solutore Z3), l'argomento è valido solo se si ammette una premessa che l'autore non formula (P3). AskPhilosophy presenta 3 obiezioni, 3 delle quali con una risposta documentata, e il testo originale di ciascuna premessa, verificato parola per parola.

Discorso sul metodo, V, 1637

Valido con una premessa implicita

Cartesio ritiene che il corpo degli animali, e persino il corpo umano, funzioni come una macchina. Si pone allora una domanda che oggi riprendiamo a proposito di robot e software: se un automa avesse la forma di un uomo e ne imitasse le azioni, come potremmo sapere che non è un vero uomo? Risponde con due prove. La prima riguarda la parola: una macchina potrebbe pronunciare parole, ma non disporle in infiniti modi per rispondere a ciò che le viene detto. La seconda riguarda la ragione: essa serve in ogni circostanza, mentre un meccanismo è pronto soltanto per ciò per cui è stato predisposto. In entrambi i casi la macchina agirebbe per la disposizione dei suoi organi, non per conoscenza.

clicca su una premessa per rifiutarla

Se accetti tutte le premesse, la logica ti obbliga ad accettare la conclusione. Il dibattito riguarda dunque le premesse.

Verificato da un solutore logico: è impossibile che tutte le premesse siano vere e la conclusione falsa.
Senza la premessa implicita: Senza P3, il computer trova un caso in cui la macchina fallisce entrambe le prove e in cui nulla indica tuttavia che le manchi la conoscenza: un uomo chiuso in una stanza, che non può rispondere a tutto (non parla la lingua, è esausto), non per questo è un automa. Il solo fallimento non prova che manchi qualcosa al suo interno.

L'argomento è valido una volta aggiunta la premessa nascosta P3. P1 e P2 descrivono ciò che una macchina non potrebbe fare. P3 compie il passo decisivo: da tale fallimento conclude che la macchina non agisce per conoscenza. Cartesio lo scrive quasi («non agirebbero per conoscenza, ma solo per la disposizione dei loro organi»), senza dimostrarlo a parte. Chi rifiuta la conclusione può contestare P1 o P2 (la macchina ci riuscirebbe), oppure P3 (riuscire non sarebbe un segno di conoscenza, o fallire non ne proverebbe l'assenza).

Analogia. Un risponditore telefonico dice «digita 1, digita 2»: ha frasi pronte per casi previsti. Se gli si pone una domanda imprevista, sa solo ripetere il proprio menu. Cartesio dice la stessa cosa di ogni macchina: è predisposta per dei casi, mentre la ragione si adatta a qualunque caso, anche il più inatteso.

Obiezioni

Ogni obiezione è una conversazione: clicca per vedere chi risponde e a che punto è il dibattito.

La Mettrie 1747 · attacca la premessa 1

La differenza tra l'uomo e l'animale è solo di grado. Sfida chiunque a citare un esperimento che renda impossibile insegnare a parlare a una scimmia ben addestrata, come si insegna a parlare ai sordi dalla nascita: data la somiglianza della sua struttura con la nostra, non dubita quasi che ci si riuscirebbe.

Descartes risponde

vedi l'argomento

Cartesio 1637 · Cartesio (testo del 1637, scritto prima dell'obiezione)

Occorre pochissima ragione per saper parlare. Anche se alcuni animali si addestrano più facilmente di altri, non è credibile che la scimmia o il pappagallo più perfetto della sua specie non eguagli in questo il più stupido dei bambini, o almeno un bambino dal cervello turbato, a meno che la loro anima non fosse di una natura del tutto diversa dalla nostra.

A che punto è il dibattito (nostra sintesi)Punto aperto sugli animali. La Mettrie scommette che una scimmia ben educata parlerebbe; Cartesio sostiene che anche la più dotata non eguaglia un bambino, il che mostrerebbe una differenza di natura. I tentativi del XX secolo di insegnare un linguaggio alle scimmie non hanno risolto la questione: si discute ancora se i segni appresi siano vere frasi (nostra sintesi).

Alan Turing 1950 · attacca la premessa 1

Sostituisce la domanda «può una macchina pensare?» con un gioco di domande e risposte alla cieca. Questo gioco somiglia all'esame orale che si usa per sapere se qualcuno comprende davvero o ha soltanto imparato «a pappagallo». Se una macchina rispondesse bene quanto un candidato, la prima prova di Cartesio sarebbe superata, e andrebbe giudicata in base alle sue risposte.

un difensore risponde

vedi l'argomento

Nessuna risposta possibile: obiezione formulata nel 1950, dopo la morte dell'autore (1650).

Emily Bender e Alexander Koller difensore dell'argomento · 2020

Per ragioni diverse da quelle di Cartesio, sostengono che un sistema addestrato soltanto sulla forma (sequenze di parole) non ha, a priori, alcun modo di apprendere il significato. Rispondere bene non prova dunque che si comprende: è la stessa idea della premessa P3.

Cameron Jones e Benjamin Bergen 2025

Sono stati condotti, con modelli linguistici, test di Turing a tre partecipanti, preregistrati. Un modello, a cui era stato chiesto di assumere un personaggio umano, è stato giudicato l'umano nel 73% dei casi, più spesso dell'umano reale. La prima prova di Cartesio (rispondere a proposito di ciò che si dice) è dunque superata in conversazioni brevi.

A che punto è il dibattito (nostra sintesi)Punto aperto. I modelli linguistici attuali rispondono a ciò che si dice loro, talvolta meglio di esseri umani di fretta: la prova della parola, così come la descrive Cartesio, sembra quindi superata in conversazioni brevi. Il disaccordo di fondo riguarda ciò che questo dimostra: per alcuni basta rispondere come un essere umano; per altri rispondere bene non è comprendere. Non esiste una risposta largamente accettata (nostra sintesi).

Alan Turing 1950 · attacca la premessa 2

Non è necessario costruire una macchina diversa per ogni compito. Un solo computer digitale, programmato diversamente per ciascun caso, può svolgerli tutti. Cartesio supponeva che servisse un organo particolare per ogni azione; un computer non ha bisogno di questa molteplicità di organi.

un difensore risponde

vedi l'argomento

Nessuna risposta possibile: obiezione formulata nel 1950, dopo la morte dell'autore (1650).

Hubert Dreyfus difensore dell'argomento · 1972

Per ragioni diverse da quelle di Cartesio, sostiene che l'intelligenza umana in situazione non si riduce a regole esplicite che un programma potrebbe seguire: sapere che cosa conta in una situazione presuppone uno sfondo che non si può scrivere per intero. Un computer universale può calcolare qualsiasi cosa, ma bisogna comunque fornirgli il programma adatto a ogni caso.

A che punto è il dibattito (nostra sintesi)Punto controverso. Turing mostra che una sola macchina può imitare qualsiasi macchina a stati discreti: l'argomento degli «organi in numero insufficiente» cade. Resta la questione di fondo di Cartesio, spostata: si può scrivere un programma (o farlo apprendere) per tutte le circostanze della vita? I pareri divergono (nostra sintesi).