QuestionsUne machine peut-elle penser ?On ne dit « il pense » que d'un être vivant, ou de ce qui lui ressemble
Une machine peut-elle penser ?Il faut un corps vivant

On ne dit « il pense » que d'un être vivant, ou de ce qui lui ressemble

Wittgenstein : une machine peut-elle penser ?

Ludwig Wittgenstein 1889 · 1951Les limites de mon langage sont les limites de mon monde.
Voir sa fiche
Ce qu'il soutient

Pour une telle machine, dire qu'elle pense n'a pas de place dans notre emploi du mot. La question n'est pas de chercher une pensée cachée dans la machine : c'est de savoir jusqu'où elle ressemble, par sa vie et sa conduite, à ce dont nous disons qu'il pense.

Pourquoi

Nous ne disons « il pense » que d'un être vivant ou de ce qui lui ressemble ; une machine n'entre pas dans cet emploi du mot.

La même idée à travers l'histoire
Ludwig Wittgenstein1953Le principe de départ : le sens d'un mot, c'est son emploi dans le langage. Il faut donc regarder comment on emploie « penser ».Ludwig Wittgenstein1953Les § 281-284 sont au cœur de l'argument sur le langage privé : « douleur » s'apprend à propos de ce qui se comporte comme un humain, non à propos d'un objet caché.
En bref

« On ne dit « il pense » que d'un être vivant, ou de ce qui lui ressemble » est un argument de Ludwig Wittgenstein (Recherches philosophiques, § 281 et § 359-360, 1953) sur la question « Une machine peut-elle penser ? » (réponse : il faut un corps vivant). Sa thèse : Pour une telle machine, dire qu'elle pense n'a pas de place dans notre emploi du mot. La question n'est pas de chercher une pensée cachée dans la machine : c'est de savoir jusqu'où elle ressemble, par sa vie et sa conduite, à ce dont nous disons qu'il pense. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3). AskPhilosophy présente 2 objections, dont 2 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Recherches philosophiques, § 281 et § 359-360
Valide avec une prémisse implicite

Quand on demande si une machine peut penser, on imagine un fait à découvrir : y a-t-il, à l'intérieur de la machine, de la pensée, oui ou non ? Wittgenstein propose de changer de regard. Dans ses Recherches (écrites vers 1945-1949, publiées après sa mort), il remarque que nous disons « il souffre », « il voit », « il pense » du vivant humain, et de ce qui lui ressemble et se conduit comme lui. Dire qu'une machine ne peut pas penser n'est donc pas constater un fait d'expérience : c'est noter comment fonctionne le mot « penser ». Précision : Wittgenstein ne conclut nulle part « donc aucune machine ne pensera jamais ». Cet argument est une lecture de ses remarques, défendue notamment par des commentateurs wittgensteiniens, pas une thèse qu'il énonce en une phrase.

P1On ne peut dire que d'un être humain vivant, et de ce qui lui ressemble et se conduit comme lui, qu'il a des sensations, qu'il voit, qu'il entend, qu'il est conscient (§ 281). De même pour « penser » : « Nous disons seulement de l'homme, et de ce qui lui ressemble, qu'il pense » (§ 360).
P2« Une machine ne peut pas penser » n'est pas une proposition d'expérience, qu'on pourrait vérifier ou réfuter en ouvrant la machine. Elle porte sur l'emploi du mot : il faut regarder le mot « penser » « comme un instrument » (§ 360).
P3 · prémisse impliciteUne machine, au sens où nous en connaissons (un appareil fabriqué qui calcule), n'est pas un être vivant et ne se conduit pas comme un être humain vivant dans l'ensemble de sa vie.
Donc, pour une telle machine, dire qu'elle pense n'a pas de place dans notre emploi du mot. La question n'est pas de chercher une pensée cachée dans la machine : c'est de savoir jusqu'où elle ressemble, par sa vie et sa conduite, à ce dont nous disons qu'il pense.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.
Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P3, l'ordinateur trouve une machine qui ressemble assez à un vivant pour que « elle pense » ait un sens : la conclusion tombe.
Valide avec P3. Cette prémisse est la plus fragile : qu'est-ce qui compte comme « ressembler » ? Si une machine se conduisait un jour comme un humain dans toute sa vie, P3 tomberait et la conclusion avec elle. Wittgenstein ne ferme pas la porte : au § 359 il note que le corps humain « est ce qui s'approche le plus d'être une machine ».
Analogie. Le mot « gagner » s'emploie pour les parties de jeu, les procès, les élections. Demander si un caillou peut « gagner » n'est pas une question de physique sur le caillou : on voit qu'on n'a pas de jeu où le caillou joue. L'image est la nôtre, pas celle de Wittgenstein.

Objections

2

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

Alan Turing 1950 · attaque la conclusion

Turing juge la question « Les machines peuvent-elles penser ? » trop vague pour mériter discussion, et la remplace par un test : une machine peut-elle se faire passer pour un humain dans une conversation ? Il prévoit aussi que, d'ici la fin du siècle, l'emploi des mots aura changé au point qu'on pourra parler de machines qui pensent sans être contredit. L'usage n'est pas figé : il suivra ce que les machines feront.

un défenseur répond
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Wittgenstein dans ses textes.
S
Stuart Shanker défenseur de l'argument · 1998
Résumé : Shanker lit les remarques tardives de Wittgenstein sur la psychologie comme une critique de l'idée que penser se ramène à calculer. Un changement d'usage ne serait pas la découverte que les machines pensent : ce serait un changement de concept, et il resterait à dire ce qu'on gagne ou perd en parlant ainsi.
Où en est le débat (notre résumé)Turing et Wittgenstein s'accordent sur un point : la question porte sur l'emploi du mot « penser ». Ils divergent sur la suite : pour Turing, l'usage s'étendra aux machines qui réussissent le test ; pour les héritiers de Wittgenstein, l'étendre serait un choix de langage qu'il faudrait justifier, pas la découverte d'un fait. Point ouvert.
Hilary Putnam 1967 · attaque la prémisse 3

Putnam défend le fonctionnalisme : un état mental (comme la douleur) se définit par son rôle dans l'organisation du système, pas par la matière dont il est fait. La même douleur pourrait être réalisée dans un cerveau humain, chez une pieuvre ou dans un système électronique. Être vivant n'est donc pas exigé pour penser : seule compte la bonne organisation.

un défenseur répond
voir l'argument
Nous n'avons pas encore relevé de réponse directe de Wittgenstein dans ses textes.
Hilary Putnam défenseur de l'argument · 1988
Résumé : Putnam renonce lui-même au fonctionnalisme dans Representation and Reality. Son argument : un système physique quelconque peut être décrit comme réalisant n'importe quelle organisation abstraite. L'expression « même organisation » ne suffit donc pas à fixer ce qui pense et ce qui ne pense pas.
David Chalmers 1996
Résumé : Chalmers répond que Putnam décrit une réalisation trop facile. Pour qu'un système réalise une organisation, ses états doivent être reliés par des relations causales qui tiennent aussi dans les cas contrefactuels (ce qui se passerait avec d'autres entrées). Avec cette contrainte, un rocher ne réalise pas n'importe quel automate.
Où en est le débat (notre résumé)Le désaccord de fond porte sur ce qui rend un système apte à penser : son organisation (fonctionnalisme) ou aussi sa vie et son histoire (la position vivante). Les fonctionnalistes ont repoussé l'argument de la réalisation trop facile ; la question de savoir si l'organisation suffit reste ouverte.