QuestionsUne machine peut-elle penser ?Un sous-marin nage-t-il ? Une question de décision sur un mot, pas de fait
Une machine peut-elle penser ?Une question mal posée

Un sous-marin nage-t-il ? Une question de décision sur un mot, pas de fait

Les sous-marins nagent-ils ? (Chomsky)

Noam Chomsky né en 1928Linguiste qui voit dans le langage et l'esprit des objets d'étude naturels, et juge sans objet la question « les machines pensent-elles ? ».
Voir sa fiche
Ce qu'il soutient

La question « une machine peut-elle penser ? » est mal posée : ce n'est pas une question à laquelle une expérience, comme le test de Turing, puisse répondre.

Pourquoi

Demander si une machine pense, c'est demander si un sous-marin nage : on choisit comment étendre un mot, il n'y a pas de fait à trouver.

La même idée à travers l'histoire
Alan Turing1950Turing juge la question « Les machines peuvent-elles penser ? » trop dénuée de sens pour mériter discussion et prévoit que l'usage des mots changera.Edsger W. Dijkstra1984Dijkstra écrit que la question est à peu près aussi pertinente que celle de savoir si les sous-marins nagent.
Noam Chomsky1996Chomsky, dans Powers and Prospects, fait de l'image un argument : ce sont des questions de décision sur l'extension d'un mot, pas de fait.
En bref

« Un sous-marin nage-t-il ? Une question de décision sur un mot, pas de fait » est un argument de Noam Chomsky (Powers and Prospects, 1996, 1996) sur la question « Une machine peut-elle penser ? » (réponse : une question mal posée). Sa thèse : La question « une machine peut-elle penser ? » est mal posée : ce n'est pas une question à laquelle une expérience, comme le test de Turing, puisse répondre. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P4). AskPhilosophy présente 3 objections, dont 1 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Powers and Prospects, 1996
Valide avec une prémisse implicite

Dans un chapitre de Powers and Prospects (1996), le linguiste Noam Chomsky critique une approche populaire de l'intelligence artificielle : celle du test de Turing, qui cherche à décider si un objet « manifeste de l'intelligence ». Selon lui, la question de savoir si un ordinateur joue aux échecs, comprend le chinois ou pense est comme celle de savoir si des robots peuvent assassiner ou si des avions volent : une affaire de décision, pas de fait. Un sous-marin pris pour une baleine ne prouve pas qu'il nage, ni le contraire. Chomsky soutient que Turing l'avait lui-même compris. Précision : on cite parfois une remarque orale de Chomsky sur le japonais (où l'on dirait qu'un sous-marin nage) ; nous ne l'avons trouvée dans aucun texte vérifiable et ne l'utilisons pas.

P1Savoir si un ordinateur joue aux échecs, traduit le chinois ou pense, c'est comme savoir si des avions volent ou si des sous-marins nagent.
P2Ces questions-là sont des questions de décision, pas de fait : il s'agit de savoir s'il faut adopter une certaine extension métaphorique d'un usage courant. Pour le sous-marin, tout le monde s'accorde qu'il n'y a pas de fait à établir.
P3Turing a lui-même noté que la question « les machines pensent-elles ? » est trop dénuée de sens pour mériter discussion, et a prévu que l'usage des mots changerait, comme pour « voler » en anglais et non pour « nager ».
P4 · prémisse impliciteIl n'y a pas, derrière le choix du mot « penser », une autre question de fait à poser sur la machine : tout se réduit à une décision de vocabulaire.
Donc la question « une machine peut-elle penser ? » est mal posée : ce n'est pas une question à laquelle une expérience, comme le test de Turing, puisse répondre.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.
Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P4, l'ordinateur trouve un cas où le mot « penser » est affaire de décision, mais où il reste une vraie question de fait sur ce que la machine éprouve : la question n'est pas vide pour autant.
Valide avec P4. C'est cette prémisse cachée qu'attaquent les objections : elles soutiennent qu'il reste, derrière le mot, une question de fait (la compréhension, l'expérience vécue). L'argument de Chomsky vise le test de Turing : il n'exclut pas qu'on étudie scientifiquement comment fonctionnent les esprits ou les programmes.
Analogie. Un avion « vole », une plume « vole », le temps « vole ». Où commence le vrai vol ? Aucune expérience ne peut le dire : il faut choisir un usage du mot. Chomsky cite lui-même l'avion et le sous-marin ; la suite est la nôtre.

Objections

3

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

Alan Turing 1950 · attaque la conclusion

Turing ne se contente pas d'écarter la question : il la remplace par une autre, « proche et exprimée en termes relativement non ambigus », le jeu de l'imitation. Cette nouvelle question est de fait : un programme peut-il tromper un interrogateur aussi souvent qu'un homme ? Le test répondrait donc à quelque chose de précis.

Chomsky répond
voir l'argument
Noam Chomsky 1996 · Réponse de Chomsky
Chomsky répond que la ressemblance avec le test cartésien, qui cherchait à savoir si un objet a la propriété d'avoir un esprit, est trompeuse. Les expériences de Descartes ressemblaient à un test de tournesol pour l'acidité ; ce n'est pas le cas du débat sur l'IA.
Le débat continue (notre résumé) Les partisans du test répondent que le jeu de l'imitation mesure une performance précise, ce qui suffit pour une science de l'ingénieur. Chomsky ne le conteste pas : il nie que cela réponde à la question « une machine pense-t-elle ? » (notre résumé).
Où en est le débat (notre résumé)Le désaccord porte sur ce que mesure le test de Turing : une performance (ce que Turing propose) ou une propriété de la machine (ce que Chomsky dit qu'il ne mesure pas). Les deux camps s'accordent que la question de départ est floue (notre résumé).
John Searle 1980 · attaque la prémisse 4

La question de la compréhension n'est pas une question de mot. Un ordinateur qui suit un programme manipule des symboles sans savoir ce qu'ils signifient : il a de la syntaxe, pas de sémantique. Savoir si un programme suffit à comprendre est, pour Searle, « la bonne question à poser ».

sans réponse
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Chomsky dans ses textes.
Où en est le débat (notre résumé)Chomsky ne répond pas à Searle dans le passage lu. Les uns jugent la question de la compréhension réelle et distincte de celle des mots ; d'autres jugent que « comprendre » est aussi un mot qu'on étend. Aucun consensus (notre résumé).
David Chalmers 1995 · attaque la prémisse 4

Même si l'on met de côté les mots « penser » et « comprendre », il reste une question qui n'est pas verbale : y a-t-il quelque chose que cela fait d'être cette machine ? Chalmers parle du « vrai problème difficile », celui de l'expérience.

sans réponse
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Chomsky dans ses textes.
Où en est le débat (notre résumé)Point ouvert : Chomsky ne parle pas de conscience dans le passage lu. Les uns tiennent la question de l'expérience pour réelle et distincte des mots, d'autres pensent qu'elle disparaîtra avec une meilleure science du cerveau (notre résumé).