L'argument de Gödel contre le mécanisme

L'argument de Lucas-Penrose

John Randolph Lucas 1929 · 2020Philosophe d'Oxford : selon lui, le théorème de Gödel montre qu'un esprit n'est pas une machine.

Voir sa fiche

Ce qu'il soutient

L'esprit n'est pas une machine : aucune machine ne peut être un modèle complet de l'esprit.

Pourquoi

Nous voyons qu'une formule est vraie alors que toute machine cohérente ne peut pas la produire.

La même idée à travers l'histoire

Kurt Gödel1951Dans sa conférence Gibbs, Gödel ne conclut pas. Il énonce une alternative : soit l'esprit humain surpasse infiniment toute machine finie, soit il existe des problèmes mathématiques absolument insolubles. Il ne dit pas laquelle est vraie.

John Randolph Lucas1961Lucas, philosophe d'Oxford, en tire une preuve : pour toute machine, on peut produire une formule qu'elle ne démontre pas et que l'esprit voit vraie. C'est la forme que nous présentons.

Roger Penrose1989Roger Penrose reprend l'idée dans The Emperor's New Mind (1989), puis dans Shadows of the Mind (1994), avec une version plus précise. Il en tire que comprendre n'est pas un calcul, et cherche une physique qui ne soit pas calculable.

En bref

« L'argument de Gödel contre le mécanisme » est un argument de John Randolph Lucas (Lucas, « Minds, Machines and Gödel », 1961 ; Penrose, The Emperor's New Mind, 1989, 1961) sur la question « Une machine peut-elle penser ? » (réponse : il manque la compréhension). Sa thèse : L'esprit n'est pas une machine : aucune machine ne peut être un modèle complet de l'esprit. Selon la vérification logique d'AskPhilosophy (solveur Z3), l'argument est valide à condition d'admettre une prémisse que l'auteur ne formule pas (P3, P4). AskPhilosophy présente 3 objections, dont 3 avec une réponse documentée, et le texte original de chaque prémisse, vérifié mot pour mot.

Lucas, « Minds, Machines and Gödel », 1961 ; Penrose, The Emperor's New Mind, 1989

Valide avec une prémisse implicite

En 1931, Kurt Gödel a démontré un résultat célèbre : dans tout système formel cohérent assez riche pour faire de l'arithmétique, il existe une formule vraie que le système ne peut pas démontrer. Or un ordinateur, dit John Lucas (1961), est une réalisation concrète d'un système formel. Donc, pour tout ordinateur qu'on voudrait donner comme modèle de l'esprit, il existe une formule qu'il ne peut pas affirmer comme vraie, alors que nous, nous voyons qu'elle est vraie. L'esprit ferait donc quelque chose que la machine ne fait pas. Roger Penrose (1989, 1994) reprend l'argument et le renforce. Les spécialistes de logique y voient presque tous une faille, mais ils ne s'accordent pas sur laquelle.

clique sur une prémisse pour la rejeter

Si tu acceptes toutes les prémisses, la logique t'oblige à accepter la conclusion. Le débat porte donc sur les prémisses.

Vérifié par un solveur logique : impossible que toutes les prémisses soient vraies et la conclusion fausse.
Sans la prémisse implicite : Sans P3, l'ordinateur trouve un monde où l'esprit est une machine, où la formule de Gödel n'est démontrable que si la machine est incohérente, et où l'esprit ne peut pas savoir si c'est le cas : il ne voit donc pas que la formule est vraie.

Valide avec P3 et P4, que Lucas admet ou doit admettre. Sans P3, on ne peut pas passer de « si le système est cohérent, la formule est vraie » à « la formule est vraie ». Presque toutes les critiques portent sur P3 : peut-on savoir que l'on est cohérent, et que la machine qui nous représente l'est ?

Analogie. Un joueur dit : « je bats n'importe quel programme d'échecs que tu me montres, car je trouve la position où il se trompe ». Cela marche à condition que le joueur soit sûr de ne pas se tromper lui-même, ce qui est justement discuté.

Objections

Chaque objection est une conversation : clique pour voir qui répond, et où en est le débat.

Hilary Putnam 1960 · attaque la prémisse 3

On ne peut pas démontrer qu'un système est cohérent à l'intérieur de ce système (second théorème de Gödel). Un esprit humain ne le peut pas davantage pour lui-même. Rien ne prouve donc qu'un humain voie la vérité de la formule de Gödel : il se peut qu'il soit une machine, peut-être incohérente.

un défenseur répond

voir l'argument

John Lucas défenseur de l'argument · 1961

Lucas répond que les humains, même s'ils se trompent parfois, ne sont pas incohérents : ils sont faillibles, et ils rejettent une idée qui mène à une contradiction. Un vrai système incohérent accepterait tout. Il en conclut qu'on peut supposer l'esprit cohérent.

Paul Benacerraf 1967

Benacerraf répond que le raisonnement de Lucas prouve au plus une alternative : soit l'esprit n'est pas une machine, soit nous ne pouvons pas connaître la machine qui le décrit, ni prouver qu'elle est cohérente. Si l'esprit est une machine, rien n'oblige donc à ce que nous puissions voir la formule qui lui échappe.

Voir la suite du débat (1)

Roger Penrose 1994

Penrose répond dans Shadows of the Mind qu'un mathématicien qui croit que ses raisonnements sont corrects ne peut pas croire en même temps qu'un programme précis les décrit : il devrait croire qu'il est aussi correct que lui, ce qui le conduit à une contradiction.

Où en est le débat (notre résumé)Point de désaccord de fond : sait-on que l'on est cohérent ? Lucas dit que oui, au moins pour l'essentiel. Ses critiques disent que le savoir humain est faillible, et que cela suffit à bloquer l'argument. La plupart des logiciens jugent que cette objection est décisive.

Alan Turing 1950 · attaque la conclusion

Chaque machine est incapable de répondre à certaines questions, mais chaque humain se trompe aussi. Notre supériorité ne se sent que sur la machine précise qu'on a battue, jamais sur toutes les machines à la fois.

un défenseur répond

voir l'argument

John Lucas défenseur de l'argument · 1961

Lucas répond que la question n'est pas de savoir qui est supérieur, mais si l'esprit et la machine sont la même chose. Le mécaniste doit proposer une seule machine capable de tout ce que fait l'esprit. Pour toute machine précise, l'esprit sait une chose qu'elle ne sait pas.

Où en est le débat (notre résumé)Point de désaccord de fond : suffit-il qu'un humain batte chaque machine l'une après l'autre pour qu'il ne soit pas une machine ? Lucas dit que oui, car le mécaniste doit proposer une seule machine. Ses critiques répondent que l'humain pourrait être une machine qu'il ne peut pas identifier. Point ouvert.

Solomon Feferman 1995 · attaque la prémisse 2

Penrose suppose qu'un mathématicien peut voir que les règles qu'il utilise sont correctes, puis en tirer la formule de Gödel de ces règles. Feferman examine ce pas de près : savoir qu'un système est correct n'est pas une chose que l'on fait avec ce système, et la forme précise de l'argument de Penrose ne le justifie pas.

un défenseur répond

Roger Penrose défenseur de l'argument · 1996

Penrose a répondu à ses critiques dans un article de la revue Psyche. Il y maintient que la compréhension mathématique ne peut pas être remplacée par un algorithme que nous saurions correct, et il détaille les étapes de son raisonnement.

Où en est le débat (notre résumé)Point de désaccord de fond : comprendre les mathématiques suppose-t-il de savoir que nos règles sont correctes, au-delà de toute démonstration formelle ? Penrose dit que oui, ses critiques disent que c'est le pas qu'il faudrait justifier. Point ouvert : pas de réponse largement acceptée.