La machine n'invente rien : elle exécute ce qu'on lui ordonne
L'objection de Lady Lovelace
La machine analytique ne crée rien : tout ce qu'elle produit vient de ce qu'on lui a ordonné.
La machine ne fait que ce qu'on sait lui ordonner et ne peut rien anticiper : créer, c'est plus que cela.
« La machine n'invente rien : elle exécute ce qu'on lui ordonne » est un argument d'Ada Lovelace (Notes sur Menabrea, Note G, 1843, 1843) sur la question « Une machine peut-elle penser ? » (réponse : il manque la compréhension). Sa thèse : La machine analytique ne crée rien : tout ce qu'elle produit vient de ce qu'on lui a ordonné. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3). AskPhilosophy présente 5 objections, dont 0 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.
En 1843, Ada Lovelace décrit la machine analytique de Babbage, un calculateur mécanique qui se programme avec des cartes perforées. Elle voit très loin (la machine pourrait manier autre chose que des nombres), mais elle fixe une limite : il ne faut pas lui prêter des pouvoirs qu'elle n'a pas. La machine exécute ce que nous savons lui ordonner. Elle ne crée rien. Cette phrase est devenue « l'objection de Lady Lovelace » : une machine ne pense pas vraiment, parce qu'elle n'a pas d'initiative, ni de compréhension propre de ce qu'elle fait.
clique sur une prémisse pour la rejeter
Sans la prémisse implicite : Sans P3, l'ordinateur trouve un cas où la machine ne fait que ce qu'on lui ordonne et n'anticipe rien, et où pourtant elle crée : un élève qui applique à la lettre les règles de la grammaire et du vers écrit un poème que personne, ni lui ni son professeur, n'avait prévu. Suivre des règles n'empêche pas de produire du nouveau.
Objections
5Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.
Alan Turing 1950 · attaque la prémisse 3Il demande qui peut être sûr qu'un « travail original » qu'il a fait n'est pas simplement la croissance d'une graine plantée en lui par l'enseignement, ou l'effet de principes généraux bien connus. Si c'est le critère, les humains non plus ne créent peut-être pas à partir de rien, et la définition de « créer » dans P3 est trop forte.
sans réponse
Il demande qui peut être sûr qu'un « travail original » qu'il a fait n'est pas simplement la croissance d'une graine plantée en lui par l'enseignement, ou l'effet de principes généraux bien connus. Si c'est le critère, les humains non plus ne créent peut-être pas à partir de rien, et la définition de « créer » dans P3 est trop forte.
Alan Turing 1950 · attaque la prémisse 1Les machines le surprennent très souvent. Pas parce qu'elles feraient autre chose que ce qu'on leur a ordonné, mais parce qu'il ne calcule pas à l'avance ce qu'elles vont faire. On peut donc ordonner à une machine un programme dont on ne sait pas ce qu'il produira : « savoir l'ordonner » ne veut pas dire « savoir ce qui en sortira ».
sans réponse
Les machines le surprennent très souvent. Pas parce qu'elles feraient autre chose que ce qu'on leur a ordonné, mais parce qu'il ne calcule pas à l'avance ce qu'elles vont faire. On peut donc ordonner à une machine un programme dont on ne sait pas ce qu'il produira : « savoir l'ordonner » ne veut pas dire « savoir ce qui en sortira ».
Alan Turing 1950 · attaque la prémisse 2Si une machine apprend, celui qui l'éduque ignore souvent presque tout de ce qui se passe à l'intérieur, tout en pouvant prédire un peu le comportement de son élève. À l'inverse d'un calcul ordinaire, où l'on suit chaque étape, une machine qui apprend finit donc par faire des choses que personne n'avait programmées une à une.
sans réponse
Si une machine apprend, celui qui l'éduque ignore souvent presque tout de ce qui se passe à l'intérieur, tout en pouvant prédire un peu le comportement de son élève. À l'inverse d'un calcul ordinaire, où l'on suit chaque étape, une machine qui apprend finit donc par faire des choses que personne n'avait programmées une à une.
DDouglas Hartree 1949 · attaque la conclusionHartree cite la phrase de Lovelace, puis précise que cela n'interdit pas, en principe, de construire un jour des machines qui « pensent par elles-mêmes », par exemple en leur donnant des réflexes conditionnés qui serviraient de base à un « apprentissage ». Mais les machines construites ou projetées à l'époque n'avaient pas cette propriété. La limite de Lovelace décrit donc l'état des machines, pas toutes les machines possibles.
sans réponse
Hartree cite la phrase de Lovelace, puis précise que cela n'interdit pas, en principe, de construire un jour des machines qui « pensent par elles-mêmes », par exemple en leur donnant des réflexes conditionnés qui serviraient de base à un « apprentissage ». Mais les machines construites ou projetées à l'époque n'avaient pas cette propriété. La limite de Lovelace décrit donc l'état des machines, pas toutes les machines possibles.
MMargaret Boden 1990 · attaque la prémisse 3Boden refuse de traiter la créativité comme un mystère : elle la décrit comme la capacité de combiner des idées familières de façon inattendue, d'explorer un espace de possibilités défini par des règles, et parfois de transformer ces règles elles-mêmes. Une partie de ces opérations peut se décrire par des programmes. La question devient donc : quelle forme de créativité une machine peut-elle avoir, et laquelle lui échappe-t-elle ?
sans réponse
Boden refuse de traiter la créativité comme un mystère : elle la décrit comme la capacité de combiner des idées familières de façon inattendue, d'explorer un espace de possibilités défini par des règles, et parfois de transformer ces règles elles-mêmes. Une partie de ces opérations peut se décrire par des programmes. La question devient donc : quelle forme de créativité une machine peut-elle avoir, et laquelle lui échappe-t-elle ?