QuestionsUne machine peut-elle penser ?Les machines peuvent-elles penser ? Autant demander si les sous-marins nagent
Une machine peut-elle penser ?Une question mal posée

Les machines peuvent-elles penser ? Autant demander si les sous-marins nagent

Les sous-marins ne nagent pas (Dijkstra)

Edsger W. Dijkstra 1930 · 2002Demander si une machine peut penser est aussi peu utile que demander si un sous-marin peut nager : mieux vaut étudier ce que les programmes font vraiment.
Voir sa fiche
Ce qu'il soutient

La question « une machine peut-elle penser ? » est mal posée : elle est à peu près aussi pertinente que « un sous-marin peut-il nager ? ». Mieux vaut étudier ce que les programmes font et comment on les construit.

Pourquoi

Quand on sait comment une machine fonctionne, savoir si elle « pense » ne change aucun fait : c'est juste une question de vocabulaire.

La même idée à travers l'histoire
Ludwig Wittgenstein1953Dans les Recherches (§ 360), Wittgenstein invite à voir le mot « penser » comme un instrument et note que la question « une machine peut-elle penser ? » porte sur l'emploi de ce mot.
Alan Turing1950Turing juge la question « Les machines peuvent-elles penser ? » trop dénuée de sens pour mériter discussion, et propose de la remplacer par le jeu de l'imitation.
Edsger W. Dijkstra1984Dijkstra reprend la remarque en une phrase, dans un discours à Austin : la question est aussi peu pertinente que celle de savoir si les sous-marins nagent.
En bref

« Les machines peuvent-elles penser ? Autant demander si les sous-marins nagent » est un argument d'Edsger W. Dijkstra (The threats to computing science (EWD898), 1984, 1984) sur la question « Une machine peut-elle penser ? » (réponse : une question mal posée). Sa thèse : La question « une machine peut-elle penser ? » est mal posée : elle est à peu près aussi pertinente que « un sous-marin peut-il nager ? ». Mieux vaut étudier ce que les programmes font et comment on les construit. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3). AskPhilosophy présente 2 objections, dont 0 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

The threats to computing science (EWD898), 1984
Valide avec une prémisse implicite

En 1984, lors d'un discours à Austin, l'informaticien néerlandais Edsger Dijkstra critique l'esprit de sa discipline à ses débuts. Selon lui, les pères du domaine étaient assez confus : von Neumann comparait ordinateurs et cerveaux, et Turing cherchait des critères pour décider si les machines peuvent penser, une question dont « nous savons maintenant » qu'elle est à peu près aussi pertinente que celle de savoir si les sous-marins peuvent nager. Il ne développe pas l'idée en détail. L'argument ci-dessous en est la reconstruction la plus forte : l'image d'un sous-marin qui avance sous l'eau montre que la réponse à une question de mot ne change rien aux faits. Précision : Dijkstra n'est pas un philosophe, et il ne dit pas que les machines pensent ou ne pensent pas. Il dit que la question détourne du travail utile.

P1Savoir si un sous-marin « nage » est une question sans intérêt. On sait comment il avance, à quelle vitesse, à quelle profondeur et à quoi il sert. Quelle que soit la réponse, aucun de ces faits ne change : on ne ferait que choisir un mot.
P2Il en va de même pour une machine et le verbe « penser » : ce qu'un programme fait (ses calculs, ses résultats, ses erreurs) se décrit et se vérifie sans trancher la question de mot. Turing lui-même la juge « trop dénuée de sens pour mériter discussion ».
P3 · prémisse impliciteUne question dont la réponse ne change rien aux faits est une question de vocabulaire, et elle n'est pas pertinente pour le travail scientifique ou technique.
Donc la question « une machine peut-elle penser ? » est mal posée : elle est à peu près aussi pertinente que « un sous-marin peut-il nager ? ». Mieux vaut étudier ce que les programmes font et comment on les construit.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.
Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P3, l'ordinateur trouve une question qui ne change rien aux faits observables mais qui reste pertinente : par exemple celle de savoir si la machine éprouve quelque chose.
Valide avec P3. Cette prémisse est contestable : une question peut ne rien changer à ce que fait la machine et pourtant porter sur autre chose, par exemple sur ce que la machine éprouve ou comprend. Les objections de Searle et de Chalmers vont dans ce sens. Notez aussi que l'analogie du sous-marin est celle de Dijkstra : elle suppose que « penser » est, comme « nager », un mot dont l'emploi est une affaire de convention.
Analogie. Un poisson nage, un homme nage, un bateau « fend » les flots, un sous-marin glisse. Où s'arrête le verbe « nager » ? Personne ne gagne rien à trancher. L'image du sous-marin est de Dijkstra ; ce développement est le nôtre.

Objections

2

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

John Searle 1980 · attaque la conclusion

La question de la compréhension n'est pas une question de mot. Un ordinateur qui suit un programme manipule des symboles sans savoir ce qu'ils signifient : il a de la syntaxe, pas de sémantique. Dire si un programme suffit à comprendre est, pour Searle, « la bonne question à poser », et sa réponse est non. Ici la réponse change ce qu'une machine est.

sans réponse
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Dijkstra dans ses textes.
Où en est le débat (notre résumé)Dijkstra écarte la question de mot ; Searle soutient que la question de la compréhension est réelle et se pose même si l'on ne dispute pas du mot « penser ». Les fonctionnalistes rejettent, eux, l'argument de Searle. Aucun consensus : tout dépend de ce que l'on entend par « comprendre ».
David Chalmers 1995 · attaque la prémisse 3

Même si l'on met de côté les mots « penser » et « comprendre », il reste une question qui n'est pas verbale : y a-t-il quelque chose que cela fait d'être cette machine ? Chalmers parle du « vrai problème difficile », celui de l'expérience. Le fait qu'une réponse ne change rien aux comportements observables ne montre pas que la question est sans objet.

sans réponse
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Dijkstra dans ses textes.
Où en est le débat (notre résumé)Point ouvert. Dijkstra ne parlait pas de conscience, et nous n'avons pas trouvé de réponse de sa part à ce type d'objection. Les uns jugent la question de l'expérience réelle et distincte de celle des mots, d'autres pensent qu'elle disparaîtra avec une meilleure compréhension du cerveau.