Un corps, un monde, une situation : ce que les règles ne disent pas

La critique de l'IA par Dreyfus

Hubert Dreyfus 1929 · 2017L'intelligence humaine vient d'un corps engagé dans un monde, pas d'un jeu de règles : c'est pourquoi les programmes qui veulent tout formaliser échouent.

Voir sa fiche

Ce qu'il soutient

L'IA symbolique échoue à reproduire l'intelligence humaine là où celle-ci repose sur ce savoir-faire, cet arrière-plan et cette situation. Dès 1965, Dreyfus voit que formaliser le comportement intelligent « exclut systématiquement » ces formes de traitement de l'information propres à l'humain.

Pourquoi

L'intelligence humaine repose sur un savoir-faire du corps et un sens commun qui ne se réduisent pas à des règles explicites.

La même idée à travers l'histoire

Martin Heidegger1927Dans Être et temps, l'être humain est d'abord « être-au-monde » : il s'y débrouille avec les choses avant de se les représenter. C'est la source que Dreyfus invoque.

Maurice Merleau-Ponty1945La Phénoménologie de la perception décrit le corps propre comme ce par quoi nous comprenons le monde. Dreyfus le cite dès 1965 comme une voie possible.

Ludwig Wittgenstein1953Wittgenstein remarque qu'on ne peut pas tracer les contours exacts de nos concepts, et que suivre une règle n'est pas appliquer une règle de plus. Dreyfus le cite dès 1965.

Hubert Dreyfus1972Le livre What Computers Can't Do développe la critique : le corps, la situation et les besoins humains.

En bref

« Un corps, un monde, une situation : ce que les règles ne disent pas » est un argument de Hubert Dreyfus (Alchemy and Artificial Intelligence, 1965 ; What Computers Can't Do, 1972, 1972) sur la question « Une machine peut-elle penser ? » (réponse : il faut un corps vivant). Sa thèse : L'IA symbolique échoue à reproduire l'intelligence humaine là où celle-ci repose sur ce savoir-faire, cet arrière-plan et cette situation. Dès 1965, Dreyfus voit que formaliser le comportement intelligent « exclut systématiquement » ces formes de traitement de l'information propres à l'humain. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P4). AskPhilosophy présente 3 objections, dont 3 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Alchemy and Artificial Intelligence, 1965 ; What Computers Can't Do, 1972

Valide avec une prémisse implicite

Au début des années 1960, les premiers programmes jouent aux échecs et démontrent des théorèmes, et leurs créateurs annoncent que les machines penseront bientôt comme nous. Hubert Dreyfus, philosophe formé à la phénoménologie, répond que c'est une impasse. Quand un médecin, un conducteur ou un locuteur agit bien, il ne suit pas une liste de règles. Il s'appuie sur un savoir-faire acquis par un corps vivant, sur un arrière-plan de sens commun que personne n'a jamais écrit, et sur une façon de saisir ce qui compte dans la situation. Une IA qui veut tout transformer en règles explicites passe donc à côté de l'essentiel. Précision importante : Dreyfus ne dit pas qu'aucune machine ne pensera jamais. Il vise un type précis d'IA, celle qui manipule des symboles par règles.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.

Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P4, l'ordinateur trouve un monde où une capacité irréductible aux règles pourrait quand même être reproduite par un programme qui n'a que des règles.

Valide avec P4. Cette prémisse cachée est presque une définition : un programme d'IA symbolique est fait de règles explicites. Le point d'attaque est ailleurs, en P2 : montrer qu'un savoir-faire est irréductible à des règles est très difficile, et c'est là que portent les objections. Dreyfus lui-même limite la portée : dans son résumé de 1965, sur quatre types d'activité intelligente, deux seulement se programment sans ces formes humaines de traitement de l'information.

Analogie. Apprendre à faire du vélo avec un manuel : « si tu penches à gauche, tourne le guidon à gauche d'un angle proportionnel… ». Personne ne roule en appliquant ces règles. L'expert a un savoir-faire dans le corps, et le manuel, même parfait, n'en donne que l'ombre. L'image est celle des commentateurs de Dreyfus, pas la sienne.

Objections

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

John McCarthy, Marvin Minsky, Nathaniel Rochester, Claude Shannon 1955 · attaque la prémisse 2

Le projet fondateur de l'IA part de la conjecture inverse : tout aspect de l'apprentissage ou de toute autre caractéristique de l'intelligence peut en principe être décrit assez précisément pour qu'une machine le simule. Un savoir-faire qu'on ne sait pas encore écrire est un problème à résoudre, pas une limite.

un défenseur répond

Hubert Dreyfus défenseur de l'argument · 1965

Dreyfus répond en examinant les programmes existants (jeux, traduction automatique, reconnaissance des formes). Les difficultés rencontrées ne sont pas dues à la puissance des machines : l'analyse du comportement intelligent en langage d'ordinateur laisse systématiquement de côté trois formes humaines de traitement de l'information (la conscience marginale, la distinction de l'essentiel et de l'accidentel, la tolérance à l'ambiguïté).

Marvin Minsky 1974

Résumé : Minsky propose les « cadres » (frames), des structures de connaissance qui décrivent une situation type (une pièce, un anniversaire) avec ses attentes habituelles. C'est une façon d'écrire le sens commun et le contexte, que Dreyfus disait impossibles à formaliser.

Voir la suite du débat (1)

Hubert Dreyfus 1992

Résumé : dans l'introduction de What Computers Still Can't Do, Dreyfus juge que les cadres déplacent le problème sans le résoudre : il faut encore décider quel cadre convient à la situation présente, et ce choix dépend de ce qui compte pour quelqu'un dans un monde, ce qu'aucun cadre ne contient.

Où en est le débat (notre résumé)Le désaccord de fond porte sur la possibilité d'écrire le sens commun. Les chercheurs en IA ont essayé de le faire pendant des décennies (cadres, grandes bases de connaissances) avec des résultats limités, ce que Dreyfus lit comme une confirmation. Leurs défenseurs répondent que le chantier est immense mais pas impossible.

David Rumelhart, James McClelland et le groupe PDP 1986 · attaque la prémisse 4

Les réseaux de neurones (connexionnisme) n'ont pas de règles écrites : ils apprennent à partir d'exemples et ajustent des milliers de connexions. Ce qu'ils savent n'est pas une liste de règles explicites, et pourtant c'est une machine. La critique de l'IA symbolique ne touche donc pas la machine en général.

un défenseur répond

Hubert Dreyfus défenseur de l'argument · 1992

Résumé : Dreyfus accorde ce point en partie. Les réseaux échappent à la critique des règles, donc ils sont une voie plus prometteuse que l'IA symbolique. Mais il doute qu'ils atteignent un savoir-faire humain tant qu'ils n'ont ni corps, ni besoins, ni monde où les choses comptent pour eux : sans cela, ils généralisent sans savoir ce qui est pertinent.

Où en est le débat (notre résumé)Les deux camps s'accordent sur un point : un réseau de neurones n'applique pas de règles explicites. Le désaccord porte sur la suite : l'apprentissage à grande échelle peut-il retrouver, sans corps ni vie, la sensibilité à la situation que Dreyfus juge propre aux êtres vivants ? Les succès récents de l'apprentissage profond ont relancé cette question sans la trancher.

Rodney Brooks 1991 · attaque la conclusion

Brooks accepte que les représentations symboliques gênent : pour une intelligence simple, il vaut mieux utiliser le monde comme son propre modèle. Mais il en tire une autre conclusion : on peut construire des robots dotés d'un corps, qui agissent dans des bureaux réels sans supervision. Le corps n'est donc pas un obstacle pour les machines, c'est une solution.

un défenseur répond

Hubert Dreyfus défenseur de l'argument · 2007

Résumé : dans « Why Heideggerian AI Failed », Dreyfus reconnaît que Brooks va dans la bonne direction (un corps, pas de modèle central), mais constate que ces robots n'ont pas dépassé le niveau d'insectes. Selon lui il leur manque encore ce qui fait la pertinence pour un être vivant : des besoins propres et un corps qui s'adapte à ce qui lui importe.

Où en est le débat (notre résumé)Dreyfus et Brooks s'accordent pour rejeter le modèle central de représentations. Ils divergent sur ce qu'il faut ajouter : pour Brooks, un corps de robot dans un monde réel suffit à progresser pas à pas ; pour Dreyfus, il faut un corps qui a des besoins et un monde où les choses comptent. Question ouverte.