QuestionsUne machine peut-elle penser ?Une machine pourrait parler, mais sans savoir ce qu'elle dit
Une machine peut-elle penser ?Il manque la compréhension

Une machine pourrait parler, mais sans savoir ce qu'elle dit

Les deux moyens de reconnaître une machine

Descartes 1596 · 1650Douter de tout pour trouver ce qui résiste au doute.
Voir sa fiche
Ce qu'il soutient

Une machine qui aurait la figure d'un homme et imiterait ses actions ne serait pas un vrai homme : elle agirait sans connaissance, et ne comprendrait pas ce qu'elle dit.

Pourquoi

Une machine peut dire des mots, mais la raison sert en toutes circonstances alors que les organes ont besoin d'un réglage pour chaque cas.

En bref

« Une machine pourrait parler, mais sans savoir ce qu'elle dit » est un argument de Descartes (Discours de la méthode, V, 1637) sur la question « Une machine peut-elle penser ? » (réponse : il manque la compréhension). Sa thèse : Une machine qui aurait la figure d'un homme et imiterait ses actions ne serait pas un vrai homme : elle agirait sans connaissance, et ne comprendrait pas ce qu'elle dit. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3). AskPhilosophy présente 3 objections, dont 3 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Discours de la méthode, V, 1637
Valide avec une prémisse implicite

Descartes pense que le corps des animaux, et même le corps humain, fonctionne comme une machine. Il se pose alors une question que nous reprenons aujourd'hui avec les robots et les logiciels : si un automate avait la figure d'un homme et imitait ses gestes, comment saurait-on que ce n'est pas un vrai homme ? Il répond par deux épreuves. La première porte sur la parole : une machine pourrait prononcer des mots, mais pas les arranger de mille façons pour répondre à ce qu'on lui dit. La seconde porte sur la raison : elle sert en toutes circonstances, alors qu'un mécanisme n'est prêt que pour ce pour quoi il a été réglé. Dans les deux cas, la machine agirait par la disposition de ses organes, non par connaissance.

P1On peut concevoir une machine qui profère des paroles, même à propos de ce qu'on fait à ses organes (touchée, elle crie qu'on lui fait mal). Mais on ne peut pas concevoir qu'elle les arrange diversement pour répondre au sens de tout ce qui se dit en sa présence, comme le font même les hommes les plus lents d'esprit.
P2La raison est un instrument universel, qui sert en toutes sortes de rencontres. Les organes d'une machine, eux, ont besoin d'une disposition particulière pour chaque action particulière. Il est donc moralement impossible qu'une machine ait assez d'organes différents pour agir dans toutes les situations de la vie comme notre raison nous fait agir.
P3 · prémisse impliciteSi une machine échoue à l'une de ces deux épreuves, alors elle n'agit pas par connaissance mais par la disposition de ses organes : elle ne comprend pas ce qu'elle dit ni ce qu'elle fait.
Donc une machine qui aurait la figure d'un homme et imiterait ses actions ne serait pas un vrai homme : elle agirait sans connaissance, et ne comprendrait pas ce qu'elle dit.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.
Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P3, l'ordinateur trouve un cas où la machine échoue aux deux épreuves et où pourtant rien ne dit qu'elle manque de connaissance : un homme enfermé dans une pièce sans pouvoir répondre à tout (il ne parle pas la langue, il est épuisé) n'est pas pour autant un automate. L'échec seul ne prouve pas qu'il manque quelque chose en dedans.
L'argument est valide si l'on ajoute la prémisse cachée P3. P1 et P2 décrivent ce que la machine ne pourrait pas faire. P3 fait le pas décisif : de cet échec on conclut qu'elle n'agit pas par connaissance. Descartes l'écrit presque (« ... elles n'agiroient pas par connoissance, mais seulement par la disposition de leurs organes »), sans le démontrer à part. Qui refuse la conclusion peut contester P1 ou P2 (la machine y réussirait), ou P3 (réussir ne serait pas un signe de connaissance, ou échouer n'en serait pas la preuve).
Analogie. Un répondeur téléphonique dit « tapez 1, tapez 2 » : il a des phrases prêtes pour des cas prévus. Si vous lui posez une question imprévue, il ne sait que répéter son menu. Descartes dit la même chose de toute machine : elle est réglée pour des cas, alors que la raison s'adapte à n'importe quel cas, même le plus inattendu.

Objections

3

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

La Mettrie 1747 · attaque la prémisse 1

La différence entre l'homme et l'animal n'est que de degré. Il défie qu'on cite une expérience qui rende impossible d'apprendre à parler à un singe bien dressé, comme on apprend à parler aux sourds de naissance : vu la ressemblance de sa structure avec la nôtre, il ne doute presque pas qu'on y arriverait.

Descartes répond
voir l'argument
Descartes 1637 · Descartes (texte de 1637, écrit avant l'objection)
Il faut très peu de raison pour savoir parler. Même si certains animaux se dressent plus facilement que d'autres, il n'est pas croyable que le singe ou le perroquet le plus parfait de son espèce n'égale pas en cela un enfant des plus stupides, ou au moins un enfant au cerveau troublé, si leur âme n'était pas d'une nature toute différente de la nôtre.
Où en est le débat (notre résumé)Point ouvert sur les animaux. La Mettrie parie qu'un singe bien éduqué parlerait ; Descartes soutient que même le plus doué n'égale pas un enfant, ce qui montrerait une différence de nature. Les tentatives du XXe siècle pour enseigner un langage à des singes n'ont pas tranché : on discute encore si les signes appris sont de vraies phrases (notre résumé).
Alan Turing 1950 · attaque la prémisse 1

Il remplace la question « une machine peut-elle penser ? » par un jeu de questions-réponses à l'aveugle. Ce jeu ressemble à l'épreuve orale qu'on utilise pour savoir si quelqu'un comprend vraiment ou a seulement appris par cœur « comme un perroquet ». Si une machine répondait aussi bien qu'un candidat, la première épreuve de Descartes serait réussie, et il faudrait la juger sur ses réponses.

un défenseur répond
voir l'argument
Pas de réponse possible : objection formulée en 1950, après sa mort (1650).
E
Emily Bender et Alexander Koller défenseur de l'argument · 2020
Pour d'autres raisons que celles de Descartes, ils soutiennent qu'un système entraîné seulement sur des formes (des suites de mots) n'a, a priori, aucun moyen d'apprendre le sens. Bien répondre ne prouve donc pas qu'on comprend : c'est la même idée que celle de la prémisse P3.
Cameron Jones et Benjamin Bergen 2025
Des tests de Turing à trois participants, préenregistrés, ont été faits avec des modèles de langage. Un modèle, auquel on avait demandé d'adopter un personnage humain, a été pris pour l'humain dans 73 % des cas, plus souvent que le vrai humain. La première épreuve de Descartes (répondre à propos à ce qu'on dit) est donc réussie en conversation courte.
Où en est le débat (notre résumé)Point ouvert. Les modèles de langage actuels répondent à ce qu'on leur dit, parfois mieux que des humains pressés : l'épreuve de la parole, telle que Descartes la décrit, semble donc franchie sur de courtes conversations. Le désaccord de fond porte sur ce que cela prouve : pour certains, il suffit de répondre comme un humain ; pour d'autres, répondre bien n'est pas comprendre. Il n'y a pas de réponse largement acceptée (notre résumé).
Alan Turing 1950 · attaque la prémisse 2

Il n'est pas nécessaire de construire une machine différente pour chaque tâche. Un seul ordinateur numérique, programmé différemment pour chaque cas, peut les faire toutes. Descartes supposait qu'il faudrait un organe particulier pour chaque action ; un ordinateur n'a pas besoin de cette multiplicité d'organes.

un défenseur répond
voir l'argument
Pas de réponse possible : objection formulée en 1950, après sa mort (1650).
Hubert Dreyfus défenseur de l'argument · 1972
Pour d'autres raisons que celles de Descartes, il soutient que l'intelligence humaine en situation ne se réduit pas à des règles explicites qu'un programme pourrait suivre : savoir ce qui compte dans une situation suppose un arrière-plan que l'on ne peut pas écrire en entier. Un ordinateur universel peut tout calculer, mais encore faut-il lui donner le programme qui convient à chaque cas.
Où en est le débat (notre résumé)Point disputé. Turing montre qu'une seule machine peut imiter toute machine à états discrets : l'argument des « organes en nombre insuffisant » tombe. Reste la question de fond de Descartes, déplacée : peut-on écrire un programme (ou le faire apprendre) pour toutes les circonstances de la vie ? Les avis divergent (notre résumé).