Le jeu de l'imitation : remplacer la question par un test

Le test de Turing

Alan Turing 1912 · 1954Mathématicien, il propose de remplacer la question « Une machine peut-elle penser ? » par un jeu d'imitation.

Voir sa fiche

Ce qu'il soutient

Si une machine ne peut pas être distinguée d'un humain par ses réponses, nous n'avons pas plus de raison de lui refuser la pensée qu'aux autres humains.

Pourquoi

Des autres humains, nous ne connaissons que les réponses ; si une machine répond de même, rien ne permet de lui refuser la pensée.

En bref

« Le jeu de l'imitation : remplacer la question par un test » est un argument d'Alan Turing (« Computing Machinery and Intelligence », Mind, 1950) sur la question « Une machine peut-elle penser ? » (réponse : penser, c'est calculer). Sa thèse : Si une machine ne peut pas être distinguée d'un humain par ses réponses, nous n'avons pas plus de raison de lui refuser la pensée qu'aux autres humains. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P4). AskPhilosophy présente 5 objections, dont 4 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

« Computing Machinery and Intelligence », Mind, 1950

Valide avec une prémisse implicite

En 1950, Turing juge la question « Les machines peuvent-elles penser ? » trop floue pour être discutée, car chacun donne aux mots « machine » et « penser » son sens. Il la remplace par un jeu : un interrogateur pose des questions écrites à un humain et à une machine, sans les voir. Si la machine se fait prendre pour l'humain, on n'a pas plus de raison de lui refuser la pensée qu'aux autres humains, dont nous ne jugeons la pensée que sur leurs réponses. Dans le même article, il réfute neuf objections.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.

Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P4, l'ordinateur trouve un cas où la machine donne les mêmes réponses que l'humain et où l'on a pourtant une raison de lui refuser la pensée (par exemple, on sait qu'elle ne fait que réciter des réponses toutes prêtes).

Valide avec P4. P1 et P2 changent la question en test de comportement ; P3 dit que, pour les humains, le comportement est notre seul critère. P4 relie les deux : mêmes indices, même conclusion. Turing ne l'écrit pas en forme de syllogisme, mais c'est ce que suppose sa réponse à Jefferson. Sans P4, rien n'interdit de traiter la machine autrement que l'humain malgré des réponses identiques.

Analogie. Vous ne pouvez pas entrer dans la tête de votre voisin, et pourtant vous êtes sûr qu'il pense, parce qu'il vous répond de façon sensée. Turing demande pourquoi on changerait de règle si c'est une machine qui répond.

Objections

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

Geoffrey Jefferson 1949 · attaque la prémisse 3

Tant qu'une machine n'écrit pas un sonnet ou ne compose pas un concerto à cause de pensées et d'émotions ressenties, et non par un hasard de symboles, on ne peut pas dire que la machine égale le cerveau. Elle devrait savoir qu'elle l'a écrit et le ressentir.

Turing répond

Alan Turing 1950 · Réponse de Turing

Turing répond que cette objection mène au solipsisme : on ne saurait qu'on pense soi-même, jamais qu'un autre pense. Au lieu de se disputer sans fin, on admet par convention que tout le monde pense. Il propose un examen oral, où l'interrogateur vérifie si le témoin comprend vraiment ce qu'il dit.

Où en est le débat (notre résumé)Notre résumé : Turing montre que l'objection de la conscience, poussée à bout, vaut aussi pour les humains. Les critiques ultérieurs (Searle, plus bas) maintiennent que les réponses ne suffisent pas à prouver la compréhension : désaccord de fond sur ce qui compte comme preuve.

Ada Lovelace 1843 · attaque la conclusion

La machine analytique n'a aucune prétention à faire naître quoi que ce soit. Elle peut faire tout ce que nous savons lui ordonner d'exécuter. Une machine ne peut donc jamais rien faire de vraiment nouveau, ce qui serait nécessaire pour penser.

Turing répond

voir l'argument

Alan Turing 1950 · Réponse de Turing

Turing répond d'abord que la machine de Babbage, dont Lovelace parlait, était un ordinateur universel et qu'elle pourrait en principe imiter n'importe quelle machine. Ensuite, que les machines le surprennent très souvent, parce qu'il ne calcule pas à l'avance ce qu'elles vont faire.

Où en est le débat (notre résumé)Notre résumé : Turing prévoit que son critique dira que la surprise vient de notre esprit et non de la machine. Le désaccord porte sur ce qu'est « créer » : être imprévisible pour nous, ou produire ce que le programmeur n'avait pas fixé. Point disputé.

Kurt Gödel 1931 · attaque la conclusion

Dans tout système logique assez puissant, on peut formuler des énoncés que le système ne peut ni démontrer ni réfuter. Une machine, qui est un tel système, a donc des questions auxquelles elle ne peut pas répondre, alors que l'esprit humain n'aurait pas cette limite.

Turing répond

Alan Turing 1950 · Réponse de Turing

Turing accepte que toute machine donnée ait des limites, mais on a seulement affirmé, sans preuve, que l'esprit humain n'en a pas. Nous donnons aussi de mauvaises réponses, et pour toute machine il peut y avoir un homme plus fort, mais aussi une machine plus forte.

John Lucas 1961

Lucas soutient que, pour toute machine donnée, un esprit peut voir la vérité de l'énoncé de Gödel de cette machine, ce qu'elle-même ne peut pas démontrer : l'esprit n'est donc pas une machine.

voir l'argument

Où en est le débat (notre résumé)Notre résumé : la limite des machines est établie par les mathématiques ; ce qui est disputé, c'est si l'esprit humain y échappe. Point ouvert, voir l'argument de Lucas et Penrose.

John Searle 1980 · attaque la prémisse 4

Un homme enfermé qui suit un programme pour manipuler des signes chinois peut donner des réponses indiscernables de celles d'un Chinois sans comprendre un mot de chinois. Les mêmes réponses ne prouvent donc pas la même compréhension.

un défenseur répond

voir l'argument

Pas de réponse possible : objection formulée en 1980, après sa mort (1954).

Paul et Patricia Churchland défenseur de l'argument · 1990

Les Churchland répondent par une expérience parallèle : agiter un aimant ne produit pas de lumière visible, mais cela ne prouve pas que la lumière n'est pas un mouvement électromagnétique. L'intuition « ce n'est pas du sens » ne prouve donc pas que les symboles ne peuvent jamais en produire.

Où en est le débat (notre résumé)Notre résumé : Searle nie que la manipulation de signes suffise au sens ; ses critiques contestent la force de l'intuition de la chambre. Désaccord de fond sur ce qu'est comprendre. Turing est mort en 1954 et n'a pas pu répondre.

Ned Block 1981 · attaque la prémisse 4

On peut imaginer une machine qui stocke à l'avance une réponse sensée à chaque conversation possible de durée limitée : un « Blockhead ». Elle passerait le test avec l'intelligence d'un juke-box. Passer le test ne suffit donc pas pour penser : la façon dont les réponses sont produites compte.

sans réponse

Pas de réponse possible : objection formulée en 1981, après sa mort (1954).

Où en est le débat (notre résumé)Notre résumé : Block montre que les mêmes réponses peuvent venir de mécanismes très différents. Les défenseurs du test disent qu'une telle machine est physiquement impossible, et que le test porte sur des machines réalistes. Point ouvert : pas de réponse largement acceptée.