問い機械は思考できるか？機械は言葉を発することはできても、自分が何を言っているのかは知らないかもしれない
機械は思考できるか？理解が欠けている

機械は言葉を発することはできても、自分が何を言っているのかは知らないかもしれない

機械と人間を見分ける二つの試験

ルネ・デカルト 1596 · 1650すべてを疑い、疑いに耐えるものを見出す。
プロフィールを見る
その主張：

したがって、人間の姿をしてその行為をまねる機械は、本物の人間ではないだろう。それは認識なしに行為し、自分が言っていることを理解しないだろう。

なぜか

機械は言葉を発することはできるが、理性はあらゆる状況で役に立つのに対し、器官はそれぞれの場合ごとに特定の配置を必要とする。

要点

「機械は言葉を発することはできても、自分が何を言っているのかは知らないかもしれない」は、問い「機械は思考できるか？」（答え：理解が欠けている）に関するルネ・デカルトの論証です（『方法序説』第5部、1637年）。その主張は次のとおりです：したがって、人間の姿をしてその行為をまねる機械は、本物の人間ではないだろう。それは認識なしに行為し、自分が言っていることを理解しないだろう。。 AskPhilosophyの論理チェック（Z3ソルバー）によれば、この論証が妥当であるのは、著者が明示していない前提（P3）を認める場合に限られます。 AskPhilosophyでは、3件の反論を紹介しています。そのうち3件には文献に基づく応答があり、各前提の元になった原文も一字一句照合して確認しています。

『方法序説』第5部、1637年
暗黙の前提を補えば妥当

デカルトは、動物の身体、さらには人間の身体さえも、機械のように働くと考える。そのうえで彼は、今日ロボットやソフトウェアをめぐって私たちがふたたび取り上げる問いを立てる。もし自動機械が人間の姿をして、その動作をまねるなら、それが本物の人間ではないとどうしてわかるだろうか。彼は二つの試験で答える。第一は言葉に関するものである。機械は言葉を発することはできても、話しかけられたことに答えるために、それらを無限に多様に組み合わせることはできないだろう。第二は理性に関するものである。理性はあらゆる状況で役に立つのに対し、機構は、あらかじめ調整された事柄にしか備えができていない。どちらの場合にも、機械は認識によってではなく、器官の配置によって動くことになるだろう。

P1言葉を発する機械、しかも自らの器官に加えられることについて言葉を発する機械（触れられると、痛いと叫ぶ）なら、思い描くことができる。しかし、その機械が、自分の前で言われるすべてのことの意味に答えるために、言葉をさまざまに組み合わせるとは考えられない。最も頭の鈍い人間でさえ、それをやってのけるのに。
P2理性はあらゆる出会いに役立つ普遍的な道具である。これに対して、機械の器官は、個々の行為ごとに特定の配置を必要とする。したがって、人生のあらゆる状況において、私たちの理性が私たちを行為させるように機械が行為するのに十分なだけの異なる器官を、機械が備えていることは、道徳的に不可能である。
P3 · 暗黙の前提機械がこの二つの試験のどちらかに失敗するなら、その機械は認識によってではなく器官の配置によって動いているのであり、自分が言うことも行うことも理解していない。
したがって、人間の姿をしてその行為をまねる機械は、本物の人間ではないだろう。それは認識なしに行為し、自分が言っていることを理解しないだろう。

前提をクリックすると、それを退けられます

すべての前提を受け入れるなら、論理によって結論も受け入れざるをえません。したがって、議論は前提をめぐるものになります。
論理ソルバーで検証済み：すべての前提が真で結論が偽であることはありえません。
暗黙の前提がない場合： P3がなければ、コンピュータは、機械が二つの試験に失敗しても、認識を欠いているとは何も示されない場合を見つける。たとえば、部屋に閉じ込められ、すべてに答えることができない人間（その言語を話せない、疲れ果てている）は、だからといって自動機械ではない。失敗しただけでは、内側に何かが欠けていることの証明にはならない。
この論証は、隠れた前提P3を加えれば妥当である。P1とP2は、機械にできないであろうことを述べている。P3は決定的な一歩を踏み出す。その失敗から、機械は認識によって行為しないと結論するのである。デカルトはそれをほとんど書いている（「それらは認識によってではなく、ただ器官の配置によってのみ行為するだろう」）が、それを別個に証明してはいない。結論を拒む者は、P1またはP2（機械は成功するだろう）、あるいはP3（成功は認識のしるしではない、あるいは失敗は認識の不在の証明にならない）を争うことができる。
類推. 留守番電話の応答システムは「1を押してください、2を押してください」と言う。予想された場合のための文があらかじめ用意されているのである。予想外の質問をすれば、メニューを繰り返すことしかできない。デカルトはあらゆる機械について同じことを言う。機械は個々の場合のために調整されているのに対し、理性はどんな場合にも、最も予想外の場合にさえ適応する。

反論

3

それぞれの反論は一つの対話です。クリックすると、誰が応答しているか、そして議論が今どこにあるかが分かります。

ラ
ラ・メトリ 1747 · 前提1を攻撃

人間と動物の違いは程度の差にすぎない。彼は、よく仕込まれた猿に話すことを教えるのが不可能になるような実験を挙げてみよと挑む。生まれつき耳の聞こえない人に話すことを教えるように教えられるのだ。猿の体の構造が私たちのものによく似ていることを考えれば、うまくいくことをほとんど疑わない。

デカルトの応答
論証を見る
デカルト 1637 · デカルト（1637年のテキスト、この反論より前に書かれたもの）
話すことができるために必要な理性はごくわずかである。ある動物が他の動物より仕込みやすいことはあっても、その種の中で最も完全な猿やオウムが、最も愚かな子供、少なくとも脳に障害のある子供に、この点で及ばないというのは信じがたい。ただし、その魂が私たちの魂とまったく異なる本性のものであるなら話は別である。
議論の現状（当サイトによる要約）動物をめぐる未解決の論点。ラ・メトリは、よく教育された猿なら話すだろうと賭ける。デカルトは、最も才能のある動物でさえ子どもに及ばないと主張し、それは種類の違いを示すものだとする。20世紀に行われた、猿に言語を教えようとする試みは決着をつけなかった。習得された記号が本当の文と言えるのかどうかは、今も議論されている（当サイトによる要約）。
ア
アラン・チューリング 1950 · 前提1を攻撃

彼は「機械は考えることができるか」という問いを、目隠しで行う質疑応答のゲームに置き換える。このゲームは、ある人が本当に理解しているのか、それとも「オウム返しに」覚えただけなのかを知るために用いられる口頭試問に似ている。もし機械が受験者と同じようにうまく答えるなら、デカルトの第一の試験は合格したことになり、機械はその答えに基づいて判断されなければならないだろう。

擁護者の応答
論証を見る
応答はありえません：この反論は、著者の死後（1650）の1950年に提起されました。
エ
エミリー・ベンダーとアレクサンダー・コラー 論証の擁護者 · 2020
デカルトとは別の理由から、彼らは、形式（語の連なり）だけで訓練されたシステムには、アプリオリに、意味を学ぶ手段がないと主張する。したがって、うまく答えることは理解していることの証明にならない。これは前提P3と同じ考えである。
キ
キャメロン・ジョーンズとベンジャミン・バーゲン 2025
言語モデルを用いて、事前登録された三者間のチューリング・テストが行われた。人間のペルソナを演じるよう指示されたあるモデルは、73%の場合に人間だと判定され、本物の人間よりも多く人間と見なされた。こうして、デカルトの第一の試験（言われたことに適切に答えること）は、短い会話においては合格されている。
議論の現状（当サイトによる要約）未解決の論点。今日の言語モデルは、言われたことに答える。ときには、急いでいる人間よりもうまく答える。したがって、デカルトが述べるとおりの言葉の試験は、短い会話ではクリアされているように見える。根本的な意見の相違は、それが何を証明するのかという点にある。ある人々にとっては、人間のように答えるだけで十分であり、別の人々にとっては、うまく答えることは理解することではない。広く受け入れられた答えはない（当サイトによる要約）。
ア
アラン・チューリング 1950 · 前提2を攻撃

課題ごとに異なる機械を作る必要はない。一台のデジタル・コンピュータを、場合ごとに異なるようにプログラムすれば、すべてをこなすことができる。デカルトは、行為ごとに特定の器官が必要になると考えていたが、コンピュータにはそのような器官の多様性は必要ない。

擁護者の応答
論証を見る
応答はありえません：この反論は、著者の死後（1650）の1950年に提起されました。
ヒ
ヒューバート・ドレイファス 論証の擁護者 · 1972
デカルトとは別の理由から、彼は、状況の中での人間の知性は、プログラムが従えるような明示的な規則に還元できないと主張する。状況において何が重要かを知るには、すべてを書き尽くすことのできない背景が必要だからである。万能コンピュータは何でも計算できるが、それでもそれぞれの場合に適したプログラムが必要である。
議論の現状（当サイトによる要約）異論のある論点。チューリングは、一台の機械があらゆる離散状態機械を模倣できることを示す。「器官の数が足りない」という議論は成り立たなくなる。残るのは、場所を移したデカルトのより根本的な問いである。生活のあらゆる状況に対応するプログラムを書く（あるいは学習させる）ことはできるのか。見解は分かれている（当サイトによる要約）。