La chambre chinoise
La chambre chinoise (Searle)
Exécuter un programme ne suffit pas à comprendre. Aucun programme, à lui seul, ne fait un esprit : il faudrait autre chose, comme les pouvoirs causaux d'un cerveau.
Un programme manipule des signes d'après leur forme seule, ce qui ne suffit pas à en comprendre le sens.
« La chambre chinoise » est un argument de John Searle (« Minds, Brains, and Programs », 1980 ; « Is the Brain's Mind a Computer Program? », 1990, 1980) sur la question « Une machine peut-elle penser ? » (réponse : il manque la compréhension). Sa thèse : Exécuter un programme ne suffit pas à comprendre. Aucun programme, à lui seul, ne fait un esprit : il faudrait autre chose, comme les pouvoirs causaux d'un cerveau. Selon la vérification logique d'AskPhilosophy (solveur Z3), la conclusion suit bien de ses 3 prémisses. AskPhilosophy présente 6 objections, dont 5 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.
Imaginez que vous êtes enfermé dans une pièce. Par une fente, on vous passe des textes en chinois, que vous ne savez pas lire : pour vous, ce sont des dessins. Vous avez un gros manuel de règles, écrit en français, qui dit : « quand tu reçois telle suite de signes, renvoie telle autre suite ». Vous suivez les règles et vous renvoyez des signes. De l'extérieur, vos réponses sont celles d'un vrai locuteur chinois. Mais vous, vous n'avez pas compris un mot. John Searle (1980) en tire que même un ordinateur qui réussirait le test de Turing ne comprendrait rien : il ferait comme vous, il suivrait des règles sur des formes. Le sens, lui, ne vient pas des règles seules. L'argument vise la thèse de l'IA « forte » (penser, c'est exécuter le bon programme), pas l'idée qu'une machine puisse un jour penser. Searle dit lui-même qu'un cerveau est une machine qui pense.
clique sur une prémisse pour la rejeter
Objections
6Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.
La réponse du système (Berkeley) 1980 · attaque la prémisse 3L'homme seul ne comprend pas le chinois, c'est vrai. Mais il n'est qu'une partie d'un ensemble : l'homme, le manuel, le papier, les listes de signes. C'est cet ensemble qui comprend, comme un neurone ne comprend rien et pourtant un cerveau, si.
Searle répond
L'homme seul ne comprend pas le chinois, c'est vrai. Mais il n'est qu'une partie d'un ensemble : l'homme, le manuel, le papier, les listes de signes. C'est cet ensemble qui comprend, comme un neurone ne comprend rien et pourtant un cerveau, si.
Voir la suite du débat (1)
LLa réponse du robot (Yale) 1980 · attaque la prémisse 2Mettons l'ordinateur dans un robot, avec une caméra, des bras et des jambes. Le robot voit, agit, vit dans le monde. Le sens vient du lien avec les choses, pas des seuls signes : le robot, lui, comprendrait.
Searle répond
Mettons l'ordinateur dans un robot, avec une caméra, des bras et des jambes. Le robot voit, agit, vit dans le monde. Le sens vient du lien avec les choses, pas des seuls signes : le robot, lui, comprendrait.
La réponse du simulateur de cerveau (Berkeley et MIT) 1980 · attaque la prémisse 3Écrivons un programme qui simule, neurone par neurone, le cerveau d'un locuteur chinois. Il prend du chinois en entrée, imite la structure de ses synapses et rend du chinois. Refuser de dire qu'il comprend, ce serait refuser de le dire du cerveau lui-même.
Searle répond
Écrivons un programme qui simule, neurone par neurone, le cerveau d'un locuteur chinois. Il prend du chinois en entrée, imite la structure de ses synapses et rend du chinois. Refuser de dire qu'il comprend, ce serait refuser de le dire du cerveau lui-même.
Voir la suite du débat (1)
LLa réponse des autres esprits (Yale) 1980 · attaque la conclusionComment savez-vous que les autres comprennent le chinois, ou quoi que ce soit ? Seulement par leur comportement. L'ordinateur peut réussir les mêmes tests. Si on attribue la pensée aux autres sur cette base, il faut l'attribuer aussi à l'ordinateur. C'est la position de Turing : le test de comportement est notre seul critère.
Searle répond
Comment savez-vous que les autres comprennent le chinois, ou quoi que ce soit ? Seulement par leur comportement. L'ordinateur peut réussir les mêmes tests. Si on attribue la pensée aux autres sur cette base, il faut l'attribuer aussi à l'ordinateur. C'est la position de Turing : le test de comportement est notre seul critère.
Paul et Patricia Churchland (la chambre lumineuse) 1990 · attaque la prémisse 3Imaginons quelqu'un qui agite un aimant dans une pièce sombre : aucune lumière n'apparaît. Faut-il conclure que la lumière n'est pas faite d'ondes électromagnétiques ? Non : la pièce est trop lente. De même, l'expérience de Searle, trop lente, ne montre pas que la syntaxe ne peut jamais produire du sens.
Searle répond
Imaginons quelqu'un qui agite un aimant dans une pièce sombre : aucune lumière n'apparaît. Faut-il conclure que la lumière n'est pas faite d'ondes électromagnétiques ? Non : la pièce est trop lente. De même, l'expérience de Searle, trop lente, ne montre pas que la syntaxe ne peut jamais produire du sens.
Daniel Dennett 1980 · attaque la conclusionL'idée d'un pouvoir spécial du cerveau, qui fabriquerait de l'« intentionnalité » comme du lait, n'est pas expliquée : Searle ne dit pas ce que serait ce pouvoir. Pour Dennett, le cerveau est une machine aussi, et rien n'interdit qu'une autre machine fasse la même chose.
sans réponse
L'idée d'un pouvoir spécial du cerveau, qui fabriquerait de l'« intentionnalité » comme du lait, n'est pas expliquée : Searle ne dit pas ce que serait ce pouvoir. Pour Dennett, le cerveau est une machine aussi, et rien n'interdit qu'une autre machine fasse la même chose.