問い機械は思考できるか?潜水艦は泳ぐのか。事実ではなく、言葉についての決定の問題
機械は思考できるか?不適切に立てられた問い

潜水艦は泳ぐのか。事実ではなく、言葉についての決定の問題

潜水艦は泳ぐのか?(チョムスキー)

Noam Chomsky 1928年生まれ言語と心を自然的対象として研究し、「機械は考えることができるか」という問いを無意味とみなす言語学者。
プロフィールを見る
その主張:

したがって「機械は考えることができるか」という問いは立て方が誤っている。それは、チューリング・テストのような実験が答えうる問いではない。

なぜか

機械が考えるかどうかを問うのは、潜水艦が泳ぐかどうかを問うのに似ている。私たちが言葉の適用範囲をどう広げるかを選ぶのであって、見つけるべき事実があるわけではない。

歴史を貫く同じ発想
要点

「潜水艦は泳ぐのか。事実ではなく、言葉についての決定の問題」は、問い「機械は思考できるか?」(答え:不適切に立てられた問い)に関するNoam Chomskyの論証です(Powers and Prospects, 1996, 1996)。その主張は次のとおりです:したがって「機械は考えることができるか」という問いは立て方が誤っている。それは、チューリング・テストのような実験が答えうる問いではない。。 AskPhilosophyの論理チェック(Z3ソルバー)によれば、この論証が妥当であるのは、著者が明示していない前提(P4)を認める場合に限られます。 AskPhilosophyでは、3件の反論を紹介しています。そのうち1件には文献に基づく応答があり、各前提の元になった原文も一字一句照合して確認しています。

Powers and Prospects, 1996
暗黙の前提を補えば妥当

言語学者ノーム・チョムスキーは『Powers and Prospects』(1996年)の一章で、人工知能に対する一般的なアプローチ、すなわちチューリング・テストを批判している。これは、ある対象が「知性を示している」かどうかを決めようとするものである。彼によれば、コンピュータがチェスをするか、中国語を理解するか、考えるかという問いは、ロボットが殺人を犯しうるか、飛行機が飛べるかという問いと同じで、事実の問題ではなく決定の問題である。クジラと間違えられた潜水艦は、それが泳いでいることを示すわけでも、泳いでいないことを示すわけでもない。チョムスキーは、チューリング自身もこのことを理解していたと主張する。付記:日本語(潜水艦が泳ぐと言うとされる言語)についてのチョムスキーの口頭での発言がときどき引用されるが、私たちは検証可能な文献のなかにそれを見つけておらず、用いていない。

P1コンピュータがチェスをするか、中国語を翻訳するか、考えるかという問いは、飛行機が飛ぶか、潜水艦が泳ぐかという問いと同じである。
P2このような問いは事実の問いではなく決定の問いである。つまり、日常的な用法をある比喩的な仕方で拡張することを採用するかどうかが問題なのだ。潜水艦については、確定すべき事実などないことを誰もが認めている。
P3チューリング自身、「機械は考えることができるか」という問いは議論に値しないほど無意味だと述べ、英語の「飛ぶ」については用法が変わったが「泳ぐ」についてはそうでないように、用法が変わるだろうと予想していた。
P4 · 暗黙の前提「考える」という語の選択の背後には、機械について問うべき別の事実の問いは存在しない。すべては語彙の決定に帰着する。
したがって「機械は考えることができるか」という問いは立て方が誤っている。それは、チューリング・テストのような実験が答えうる問いではない。

前提をクリックすると、それを退けられます

すべての前提を受け入れるなら、論理によって結論も受け入れざるをえません。したがって、議論は前提をめぐるものになります。
論理ソルバーで検証済み:すべての前提が真で結論が偽であることはありえません。
暗黙の前提がない場合: P4がなければ、コンピュータにとって「考える」という語が決定の問題となる場合は見つかるが、機械が何を経験するのかという本物の事実の問いは残る。それゆえ、この問いは結局のところ空虚ではない。
P4があれば妥当である。反論が攻撃するのはこの隠れた前提である。反論者は、言葉の背後になお事実の問い(理解、生きられた経験)が残っていると主張する。チョムスキーの論証が標的とするのはチューリング・テストであり、心やプログラムがどのように働くかを科学的に研究することを排除するものではない。
類推. 飛行機は「飛ぶ」し、羽根も「飛ぶ」し、時間も「飛ぶ」。では本当の飛行はどこから始まるのか。どんな実験もそれを言うことはできず、語の用法を選ばなければならない。飛行機と潜水艦を挙げているのはチョムスキー自身であり、それ以降は私たち自身の議論である。

反論

3

それぞれの反論は一つの対話です。クリックすると、誰が応答しているか、そして議論が今どこにあるかが分かります。

ア
アラン・チューリング 1950 · 結論を攻撃

チューリングは問いを退けるだけにとどまらない。彼はそれを別の問い、すなわち「それと密接に関連し、比較的曖昧でない言葉で表される」模倣ゲームに置き換える。この新しい問いは事実の問いである。プログラムは、人間の男性と同じ頻度で尋問者を欺くことができるか。したがってテストは、ある明確なことに答えを与えるだろう。

Chomskyの応答
論証を見る
ノ
ノーム・チョムスキー 1996 · チョムスキーの応答
チョムスキーは、ある対象が心を持つという性質をもつかどうかを見きわめようとしたデカルト的なテストとの類似は、誤解を招くと答える。デカルトの実験はリトマス試験紙による酸性の検査のようなものだったが、AIをめぐる議論はそうではない。
議論は続く(当サイトによる要約) テストの支持者は、模倣ゲームは明確な遂行能力を測るものであり、それは工学的な科学には十分だと答える。チョムスキーはこれを否定しない。彼が否定するのは、それが「機械は考えるのか」という問いへの答えになるということである(私たちによる要約)。
議論の現状(当サイトによる要約)意見の不一致は、チューリング・テストが何を測るのかにある。遂行能力(チューリングが提案するもの)なのか、機械の性質(チョムスキーが測っていないと言うもの)なのか。両陣営とも、もともとの問いが曖昧であることでは一致している(私たちによる要約)。
ジ
ジョン・サール 1980 · 前提4を攻撃

理解の問いは言葉の問いではない。プログラムに従うコンピュータは、記号が何を意味するかを知らずにそれを操作する。そこにあるのは構文論であって、意味論ではない。プログラムが理解に十分かどうかは、サールにとって「問うべき正しい問い」である。

応答なし
論証を見る
Chomskyの著作の中に、直接の応答はまだ見つかっていません。
議論の現状(当サイトによる要約)チョムスキーは、読んだ箇所ではサールに答えていない。理解の問いは実在し、言葉の問いとは別だと考える人々もいれば、「理解する」もまた私たちが拡張する語にすぎないと考える人々もいる。コンセンサスはない(私たちによる要約)。
デ
デイヴィッド・チャーマーズ 1995 · 前提4を攻撃

「考える」や「理解する」という語を脇に置いたとしても、言葉の問いではない問いが残る。この機械であるとは、どのようなことか、という何かがあるのだろうか。チャルマーズは「本当に難しい問題」、すなわち経験の問題について語っている。

応答なし
論証を見る
Chomskyの著作の中に、直接の応答はまだ見つかっていません。
議論の現状(当サイトによる要約)未解決の点:チョムスキーは、読まれた箇所では意識について論じていない。経験の問いは実在的であり、言葉とは別のものだと考える人々もいれば、脳についてのより優れた科学によってその問いは消えるだろうと考える人々もいる(当サイトによる要約)。