QuestionsUne machine peut-elle penser ?Raisonner n'est que calculer
Une machine peut-elle penser ?Penser, c'est calculer

Raisonner n'est que calculer

La raison comme calcul (Hobbes)

Thomas Hobbes 1588 · 1679Sans État, la vie serait solitaire, brutale et brève.
Voir sa fiche
Ce qu'il soutient

Raisonner n'est rien d'autre que calculer sur des signes, et un dispositif qui applique correctement ces règles raisonne, qu'il soit de chair ou de rouages.

Pourquoi

Raisonner, c'est additionner et retrancher des signes conventionnels ; une opération qui n'est que cela peut être faite par un dispositif.

En bref

« Raisonner n'est que calculer » est un argument de Thomas Hobbes (Léviathan, I, 5 (1651) ; De Corpore, I, 1, 2) sur la question « Une machine peut-elle penser ? » (réponse : penser, c'est calculer). Sa thèse : Raisonner n'est rien d'autre que calculer sur des signes, et un dispositif qui applique correctement ces règles raisonne, qu'il soit de chair ou de rouages. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3). AskPhilosophy présente 3 objections, dont 2 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Léviathan, I, 5 (1651) ; De Corpore, I, 1, 2
Valide avec une prémisse implicite

En 1651, Hobbes affirme que raisonner, c'est additionner et soustraire, comme on le fait avec des nombres, mais avec des mots. Si c'est vrai, la pensée qui raisonne est un calcul sur des signes. Hobbes ne parle pas lui-même d'une machine qui raisonne, mais il écrit aussi que les automates ont une « vie artificielle ». C'est pourquoi l'on voit souvent en lui l'ancêtre de l'idée qu'une machine bien faite pourrait penser.

P1Raisonner, c'est additionner des parties pour obtenir un tout, ou retrancher une somme d'une autre pour trouver un reste. Quand on le fait avec des mots, on enchaîne les conséquences de leurs noms.
P2Les noms dont on se sert sont des signes généraux, choisis par convention pour marquer nos pensées et les faire connaître aux autres. Le calcul porte donc sur ces signes.
P3 · prémisse impliciteUne opération qui consiste seulement à additionner et retrancher des signes selon des règles peut être exécutée par n'importe quel système qui applique ces règles, quelle que soit la matière dont il est fait.
Donc raisonner n'est rien d'autre que calculer sur des signes, et un dispositif qui applique correctement ces règles raisonne, qu'il soit de chair ou de rouages.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.
Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P3, l'ordinateur trouve un cas où raisonner est bien un calcul sur des signes, mais où seul un être vivant peut l'accomplir : la définition de Hobbes reste vraie, la conclusion sur les machines non.
Valide avec P3. P1 et P2 disent ce qu'est raisonner (un calcul sur des signes). P3 dit que ce calcul ne dépend pas du support. Hobbes ne l'écrit pas sous cette forme ; il écrit seulement que les automates à ressorts peuvent avoir une « vie artificielle ». Sans P3, la conclusion sur les dispositifs ne suit pas : raisonner pourrait être un calcul tout en exigeant un cerveau vivant.
Analogie. Une division se fait de la même façon à la main, à la calculatrice ou dans la tête : ce qui compte, ce sont les règles, pas l'outil. Hobbes dit que raisonner, c'est aussi appliquer des règles à des signes.

Objections

3

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

René Descartes 1637 · attaque la prémisse 3

On peut concevoir une machine qui dise des mots, mais pas qu'elle les arrange de façons variées pour répondre au sens de tout ce qui se dit devant elle, comme le font même les hommes les plus bornés. Et la raison est un instrument universel, alors que les organes d'une machine ont besoin d'une disposition particulière pour chaque action : une machine ne peut pas avoir assez de dispositions pour agir comme la raison dans toutes les circonstances.

un défenseur répond
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Hobbes dans ses textes.
Alan Turing défenseur de l'argument · 1950
Les ordinateurs numériques peuvent imiter n'importe quelle machine à états discrets : on n'a donc pas besoin de construire une machine différente pour chaque tâche. Un seul ordinateur, programmé pour chaque cas, suffit.
Noam Chomsky 1966
Chomsky reprend Descartes : l'usage normal du langage est créatif, sans limite et adapté à la situation sans être commandé par elle. Une machine universelle peut tout calculer, mais cela n'explique pas cet usage.
Le débat continue (notre résumé) Descartes écrit avant le Léviathan et Hobbes n'a pas répondu à ce passage. Le débat a continué avec les ordinateurs modernes.
Où en est le débat (notre résumé)Notre résumé : le débat porte sur ce qu'un programme peut couvrir. Les défenseurs disent qu'une machine universelle n'a pas besoin d'un organe par situation ; les héritiers de Descartes répondent que ce qui compte est l'usage créatif et approprié du langage, qui ne se réduit pas à appliquer des règles fixées d'avance. Désaccord de fond non tranché.
Leibniz 1714 · attaque la conclusion

Même si le raisonnement était un calcul fait par des pièces, la perception ne s'explique pas par des pièces : en entrant dans une machine agrandie comme dans un moulin, on ne verrait que des pièces qui se poussent, jamais de quoi expliquer une perception.

sans réponse
voir l'argument
Pas de réponse possible : objection formulée en 1714, après sa mort (1679).
Où en est le débat (notre résumé)Notre résumé : Leibniz parle de perception, non de calcul. Même s'il a raison, on peut soutenir que raisonner est un calcul sans que le calcul suffise à percevoir ou à comprendre. Le débat se poursuit dans l'argument lié : point ouvert.
John Searle 1980 · attaque la conclusion

Un homme enfermé qui suit un programme pour manipuler des signes chinois peut donner de bonnes réponses sans comprendre un mot de chinois. Suivre des règles sur des signes ne suffit donc pas pour comprendre, ni pour penser.

un défenseur répond
voir l'argument
Pas de réponse possible : objection formulée en 1980, après sa mort (1679).
Daniel Dennett défenseur de l'argument · 1987
Dennett soutient que l'expérience marche parce qu'on imagine un programme trivial. Un programme capable de tenir une vraie conversation serait d'une complexité immense, et notre intuition « il ne comprend rien » devient peu fiable.
Où en est le débat (notre résumé)Notre résumé : Searle soutient que la manipulation de signes ne donne pas à elle seule le sens ; ses critiques répondent que l'expérience nous fait sous-estimer ce qu'un vrai programme de conversation serait. Désaccord de fond sur ce que sont la compréhension et le sens.