問い機械は思考できるか？機械論に対するゲーデル的論証
機械は思考できるか？理解が欠けている

機械論に対するゲーデル的論証

ルーカス=ペンローズの議論

John Randolph Lucas 1929 · 2020オックスフォードの哲学者。彼の見るところ、ゲーデルの定理は心が機械ではないことを示している。
プロフィールを見る
その主張：

したがって、精神は機械ではない。いかなる機械も、精神の完全なモデルにはなりえない。

なぜか

私たちはある式が真であると見て取れるが、無矛盾な機械はどれもそれを産出できない。

歴史を貫く同じ発想
Kurt Gödel1951ゲーデルはギブズ講演で結論を下していない。彼が述べるのは選言である。すなわち、人間の精神はいかなる有限な機械をも無限に凌駕するか、あるいは絶対に解決不可能な数学の問題が存在するか、のいずれかだ。彼はどちらが真であるかは述べていない。
John Randolph Lucas1961オックスフォードの哲学者ルーカスは、ここから一つの証明を引き出す。どの機械についても、それが証明できず、しかも精神には真だと見て取れる式を作ることができる、というのである。ここで提示するのはこの形である。
Roger Penrose1989ロジャー・ペンローズは『皇帝の新しい心』（1989年）でこの考えを取り上げ、その後『心の影』（1994年）で、より精密な版を示した。彼は、理解することは計算ではないと結論し、計算不可能な物理学を探し求めている。
要点

「機械論に対するゲーデル的論証」は、問い「機械は思考できるか？」（答え：理解が欠けている）に関するJohn Randolph Lucasの論証です（ルーカス「心・機械・ゲーデル」（"Minds, Machines and Gödel"）、1961年；ペンローズ『皇帝の新しい心』（The Emperor's New Mind）、1989年, 1961）。その主張は次のとおりです：したがって、精神は機械ではない。いかなる機械も、精神の完全なモデルにはなりえない。。 AskPhilosophyの論理チェック（Z3ソルバー）によれば、この論証が妥当であるのは、著者が明示していない前提（P3, P4）を認める場合に限られます。 AskPhilosophyでは、3件の反論を紹介しています。そのうち3件には文献に基づく応答があり、各前提の元になった原文も一字一句照合して確認しています。

ルーカス「心・機械・ゲーデル」（"Minds, Machines and Gödel"）、1961年；ペンローズ『皇帝の新しい心』（The Emperor's New Mind）、1989年
暗黙の前提を補えば妥当

1931年、クルト・ゲーデルは有名な結果を証明した。算術を行えるだけ十分に豊かな無矛盾の形式体系には、その体系が証明できない真な式が存在する、というものである。ところで、とジョン・ルーカス（1961年）は言う。コンピュータは形式体系の具体的な実現である。したがって、精神のモデルとして提示されるどんなコンピュータにも、それが真として主張できない式が存在する。ところが私たちには、それが真であると見て取れる。そうだとすれば、精神は機械にはできないことをしていることになる。ロジャー・ペンローズ（1989年、1994年）はこの議論を取り上げ、強化した。論理学の専門家はほとんど全員がこの議論に欠陥を見出しているが、どこが欠陥なのかについては意見が一致していない。

P1もし精神が機械であるなら、それは形式体系の具体的な実現である。ゲーデルによれば、この体系が無矛盾で算術を扱えるならば、機械が真なるものとして産出できない式が存在する。
P2体系の外にいる私たちは、体系が無矛盾であるという条件のもとで、この式が真であると見て取ることができる。
P3 · 暗黙の前提人間の精神は無矛盾であり、そのことを見て取ることができる。つまり、自らを表すとされる機械が無矛盾であることを知っている。
P4 · 暗黙の前提精神がある式を真であると見て取るなら、それを真なるものとして産出することができる。つまり、精神はするが機械はしないことがある。
したがって、精神は機械ではない。いかなる機械も、精神の完全なモデルにはなりえない。

前提をクリックすると、それを退けられます

すべての前提を受け入れるなら、論理によって結論も受け入れざるをえません。したがって、議論は前提をめぐるものになります。
論理ソルバーで検証済み：すべての前提が真で結論が偽であることはありえません。
暗黙の前提がない場合： P3がなければ、コンピュータは次のような世界を見出す。そこでは精神は機械であり、ゲーデル式は機械が矛盾している場合にのみ証明可能であり、精神はそうであるかどうかを知りえない。したがって精神は、その式が真であるとは見て取れない。
ルーカスが認める、あるいは認めざるをえないP3とP4があれば妥当である。P3がなければ、「体系が無矛盾ならば、その式は真である」から「その式は真である」へ移ることはできない。批判のほとんどすべてはP3に向けられる。私たちは自分が無矛盾であることを、また私たちを表す機械が無矛盾であることを知りうるのか。
類推. ある棋士がこう言う。「君が見せるどんなチェスのプログラムにも私は勝てる。そのプログラムが誤る局面を見つけるからだ」。これが成り立つのは、棋士自身が誤らないと確信している場合に限られるが、まさにそこが争点なのである。

反論

3

それぞれの反論は一つの対話です。クリックすると、誰が応答しているか、そして議論が今どこにあるかが分かります。

ヒ
ヒラリー・パトナム 1960 · 前提3を攻撃

体系の無矛盾性を、その体系の内部から証明することはできない（ゲーデルの第二不完全性定理）。人間の精神も、自分自身についてそれを証明することはできない。したがって、人間がゲーデル式の真理を見て取るという保証はどこにもない。人間は機械であるかもしれず、しかも矛盾した機械であるかもしれないのだ。

擁護者の応答
論証を見る
ジ
ジョン・ルーカス 論証の擁護者 · 1961
ルーカスはこう答える。人間は時に誤るとしても、矛盾しているわけではない。人間は誤りうるが、矛盾に至る考えは退ける。真に矛盾した体系ならば何でも受け入れてしまうだろう。彼はそこから、精神は無矛盾だと仮定してよいと結論する。
ポ
ポール・ベナセラフ 1967
ベナセラフはこう答える。ルーカスの推論が証明するのは、せいぜい次の選言にすぎない。すなわち、精神は機械ではないか、あるいは精神を記述する機械を私たちが知ることも、それが無矛盾であると証明することもできないか、のいずれかである。精神が機械であるなら、その機械から逃れる式を私たちが見て取れなければならない理由は何もない。
議論の続きを見る（1）
ロ
ロジャー・ペンローズ 1994
ペンローズは『心の影』でこう答える。自分の推論は健全だと信じる数学者は、同時に、ある特定のプログラムがそれを記述していると信じることはできない。そのプログラムが自分と同じだけ健全だと信じなければならなくなり、それは矛盾に至るからである。
議論の現状（当サイトによる要約）根本的な意見の相違点はこうである。私たちは自分が無矛盾であることを知っているのか。ルーカスは、少なくとも本質的な点では知っていると言う。批判者たちは、人間の知識は誤りうるものであり、それだけでこの議論を阻むのに十分だと言う。大半の論理学者は、この反論を決定的だと判断している。
ア
アラン・チューリング 1950 · 結論を攻撃

どの機械にも答えられない問いがあるが、どの人間もまた誤る。私たちの優越が感じられるのは、自分が打ち負かした特定の一台の機械に対してだけであり、すべての機械に対して同時に感じられることは決してない。

擁護者の応答
論証を見る
ジ
ジョン・ルーカス 論証の擁護者 · 1961
ルーカスは、問題はどちらが優れているかではなく、精神と機械が同じものかどうかだと答える。機械論者は、精神が行うことをすべてこなせる単一の機械を提示しなければならない。どの特定の機械に対しても、精神にはその機械が知りえないことが一つ分かっている。
議論の現状（当サイトによる要約）意見の根本的な不一致点：人間が機械を一つずつ順番に打ち負かしていけば、人間は機械ではないと言えるのか。ルーカスはそう言えると答える。機械論者は単一の機械を提示しなければならないからだ。ルーカスへの批判者は、人間は自分では特定できない機械である可能性があると答える。未決の論点。
ソ
ソロモン・フェファーマン 1995 · 前提2を攻撃

ペンローズは、数学者は自分が用いる規則が正しいことを見てとり、そのうえでそれらの規則のゲーデル文を導き出せると想定している。フェファーマンはこの一歩を詳しく検討する。ある体系が正しいと知ることは、その体系を用いて行うことではなく、ペンローズの議論の厳密な形はそれを正当化しない。

擁護者の応答
ロ
ロジャー・ペンローズ 論証の擁護者 · 1996
ペンローズは、雑誌『Psyche』の論文で批判者たちに応答した。そこで彼は、数学的理解は、私たちが健全だと知りうるようなアルゴリズムに置き換えることはできないと主張し続け、自らの推論の各段階を詳しく述べている。
議論の現状（当サイトによる要約）意見の根本的な不一致点：数学を理解するには、いかなる形式的証明を超えて、私たちの規則が正しいと知っていることが必要なのか。ペンローズは必要だと言い、批判者たちは、まさにそこが正当化を要する一歩だと言う。未決の論点：広く受け入れられた答えはない。