機械は思考できるか?理解が欠けている

中国語の部屋

中国語の部屋の議論(サール)

John Searle 1932 · 2025意識は内面生活の実在的で還元不可能な事実であり、それを否定することは、目の前にあるものを見落とすことである。
プロフィールを見る
その主張:

したがって、プログラムを実行するだけでは理解するのに十分ではない。いかなるプログラムも、それだけでは心をつくらない。何か別のもの、たとえば脳の因果的な力のようなものが必要になるだろう。

なぜか

プログラムは記号をその形だけにもとづいて操作するが、それだけでは記号の意味を理解するには十分ではない。

歴史を貫く同じ発想
ゴットフリート・ヴィルヘルム・ライプニッツ1714ライプニッツは風車小屋を想像する。考える機械の中に入ったとしても、見えるのは互いに押し合う部品だけで、知覚は決して見えないだろう、と。発想は近い。つまり、機構を眺めても理解は明らかにならないのである。
John Searle1980サールは、学術誌『Behavioral and Brain Sciences』の論文で、部屋に閉じ込められた男を想像する。男は中国語の文字と英語で書かれた規則の手引きを受け取り、中国語を理解しないまま答えを返す。
John Searle199010年後、サールは『Scientific American』で、この推論をいくつかの公理にまとめている。プログラムは形式的であり、心は内容をもち、統語論だけでは意味を生み出すのに十分ではない、というものである。本サイトが提示するのはこの形である。
要点

「中国語の部屋」は、問い「機械は思考できるか?」(答え:理解が欠けている)に関するJohn Searleの論証です(「心・脳・プログラム」、1980年;「脳の心はコンピュータ・プログラムか」、1990年, 1980)。その主張は次のとおりです:したがって、プログラムを実行するだけでは理解するのに十分ではない。いかなるプログラムも、それだけでは心をつくらない。何か別のもの、たとえば脳の因果的な力のようなものが必要になるだろう。。 AskPhilosophyの論理チェック(Z3ソルバー)によれば、結論は3個の前提から確かに導かれます。 AskPhilosophyでは、6件の反論を紹介しています。そのうち5件には文献に基づく応答があり、各前提の元になった原文も一字一句照合して確認しています。

「心・脳・プログラム」、1980年;「脳の心はコンピュータ・プログラムか」、1990年
妥当

自分が部屋に閉じ込められていると想像してみよう。投入口から中国語のテキストが渡されるが、あなたには読めない。あなたにとってそれはただの図形である。あなたは英語で書かれた大きな規則集を持っていて、そこには「この記号列を受け取ったら、あの記号列を返せ」と書かれている。あなたは規則に従って記号を返す。外から見れば、あなたの答えは本物の中国語話者のものである。しかしあなたは一語も理解していない。ジョン・サール(1980年)はここから、チューリング・テストに合格するコンピュータでさえ何も理解しないだろうと結論づける。コンピュータもあなたと同じように、形に関する規則に従っているにすぎないからである。意味は規則だけからは生じない。この議論が標的にするのは「強いAI」の主張(思考するとは適切なプログラムを実行することだ)であって、いつか機械が思考するかもしれないという考えではない。サール自身、脳は思考する機械だと述べている。

P1プログラムは純粋に形式的である。どの記号からどの記号を生み出すかを、記号の形にもとづいて指定するものだ。それを実行する者は、どの記号の意味も知る必要がない。
P2理解する心は意味をもつ。私は文を理解するとき、それが何を意味するかを知っている。これが、私による英語の読解と中国語の記号の読解とを分けるものである。
P3記号をその形にもとづいて操作するだけでは、その意味を理解するには十分ではない(統語論は意味論には十分ではない)。部屋の中で、私はプログラムが与えうるすべてを持っているが、それでも何も理解していない。
したがって、プログラムを実行するだけでは理解するのに十分ではない。いかなるプログラムも、それだけでは心をつくらない。何か別のもの、たとえば脳の因果的な力のようなものが必要になるだろう。

前提をクリックすると、それを退けられます

すべての前提を受け入れるなら、論理によって結論も受け入れざるをえません。したがって、議論は前提をめぐるものになります。
論理ソルバーで検証済み:すべての前提が真で結論が偽であることはありえません。
この論証は妥当である。プログラムだけでは形式的であり(P1)、形式的なものは意味を与えず(P3)、理解する精神は意味をもつ(P2)のであれば、プログラムだけでは精神ではない。争点はP3である。サールは思考実験によってそれを証明するとするが、彼の反対者たちは、この実験は何も証明していない、あるいは適切なシステムを対象としていないと言う。
類推. 楽譜の読み方を知らないまま楽譜を完璧に書き写せる人は、音楽を演奏しているわけではない。形を書き写すことは理解することではない。残る問題は、この類比が巨大で高速なシステムにも当てはまるかどうかである。

反論

6

それぞれの反論は一つの対話です。クリックすると、誰が応答しているか、そして議論が今どこにあるかが分かります。

シ
システム応答(バークレー) 1980 · 前提3を攻撃

部屋の中の男だけが中国語を理解しないのは確かである。しかし、彼は全体の一部にすぎない。男、マニュアル、紙、記号のリストからなる全体である。理解しているのはこの全体なのであり、それはちょうど、ニューロンは何も理解しないが脳は理解するのと同じである。

Searleの応答
ジ
ジョン・サール 1980
サールはこう答える。男にマニュアルとリストを暗記させ、すべての計算を頭の中で行わせるとしよう。そうすれば彼はシステム全体を自分の中に含むことになる。それでも彼は中国語を何ひとつ理解しない。したがって、システムの中に彼の中にないものは何もないのだから、システムも理解しない。
ダ
ダニエル・デネットとダグラス・ホフスタッター 1981
デネットとホフスタッターは、この実験は直観を惑わせると答える。私たちはコンピュータのプロセッサのような小さな部品にすぎない男に自分を重ね、小さなマニュアルを思い描く。しかし、中国語話者のように会話できるプログラムは、途方もなく複雑なはずである。男が理解しないということは、彼が動かしているシステムが何をしているかを教えてはくれない。
議論の続きを見る(1)
ジ
ジョン・サール 1980
サールは、男が知らないまま中国語を理解するサブシステムという考えをあらかじめ想定していた。そう信じる唯一の理由は、システムがチューリング・テストに合格することだが、それこそまさに争点となっている問題であり、システム応答は証明すべきことを前提にしていると彼は答える。
議論の現状(当サイトによる要約)根本的な不一致点は、どの部分も理解しないシステムの特性として、理解は成り立ちうるのかという点である。システム説の支持者にとっては、脳の場合と同様に、成り立ちうる。サールにとっては、そのようなシステムが理解することは、前提とするのではなく示さなければならない。どちらの陣営も論争に勝ててはいない。
ロ
ロボット reply(イェール) 1980 · 前提2を攻撃

コンピュータを、カメラと腕と脚をもつロボットの中に入れてみよう。ロボットは見て、行動し、世界の中で生きる。意味は記号だけからではなく、事物とのつながりから生まれる。したがってロボットは理解するだろう。

Searleの応答
ジ
ジョン・サール 1980
サールはまず、この reply がすでに、思考することは記号を操作するだけではないと認めていることを指摘する。次に、彼は男を再び部屋に戻す。一部の記号はカメラから来て、他の記号はモーターを動かすが、彼はそのことを知らない。これらの能力は記号を増やすだけで、理解を加えはしない。
議論の現状(当サイトによる要約)根本的な不一致点は、世界とのつながりが意味を生み出すのかという点である。サールは、このつながりもまた記号の形で届くと考える。身体性認知の研究者のような他の人々は、身体と生が真の違いをもたらすと考える。未解決の問題であり、広く受け入れられた答えはない。
脳
脳シミュレータ応答(バークレーとMIT) 1980 · 前提3を攻撃

中国語話者の脳をニューロン単位でシミュレートするプログラムを書いてみよう。それは中国語を入力として受け取り、シナプスの構造を模倣し、中国語を出力する。それが理解していると言うことを拒むのは、脳そのものについてそう言うことを拒むのに等しいだろう。

Searleの応答
ジ
ジョン・サール 1980
サールは水道管を使って答える。男はシナプスを模倣するバルブを操作する。正しい答えは出てくるが、男も管も理解しない。このシミュレーションは脳について誤ったものを写し取っている。すなわち、その形式であって、志向性を生み出す因果的特性ではない。
ポ
ポール・チャーチランドとパトリシア・チャーチランド 1990
チャーチランド夫妻は、サールの部屋は記号を一つずつ処理する計算機であると答える。脳は何百万もの結合を並列に働かせており、ニューラルネットワークもそうである。これは実験が検証の対象としている機械ではなく、並列システムに対しては何も証明しない。
議論の続きを見る(1)
ジ
ジョン・サール 1990
サールは「中国語の体育館」で答える。多数の男たちがそれぞれニューロンの役割を演じ、並列に働く。誰も中国語を理解せず、体育館もまた理解しない。体育館は依然として形式的な操作しか行っていないのだから、並列性は何も変えない。
議論の現状(当サイトによる要約)根本的な不一致点は、脳の完全なシミュレーションが重要なものを再現するのか、それともその形式だけを再現するのかという点である。サールは、シミュレートされた嵐が誰も濡らさないように、シミュレーションは脳の因果的な力を再現しないと言う。反対者たちは、重要なのは組織だけだと言う。未解決の問題である。
他
他我 reply(イェール) 1980 · 結論を攻撃

他の人が中国語を、あるいは何かを理解していると、どうしてあなたにわかるのだろうか。彼らの行動によってのみである。コンピュータも同じテストに合格できる。その基準で他者に思考を帰属させるのなら、コンピュータにも帰属させなければならない。これがチューリングの立場である。行動テストこそが私たちの唯一の基準なのである。

Searleの応答
論証を見る
ジ
ジョン・サール 1980
サールはこう答える。問題は、他者が考えていることをどのようにして知るかではなく、他者が考えていると言うとき、その人に何を帰属させているのかだ、と。計算とその出力は、思考なしでも存在しうる。したがって、行動は私たちが帰属させているものではありえないのである。
議論の現状(当サイトによる要約)根本的な意見の相違点:行動は、他者の思考について私たちが知りうるすべてなのか、それとも単にその徴候にすぎないのか。サールは、問題は私たちがどのように思考を帰属させるかではなく、何を帰属させるのかだと言う。未決の論点である。
ポ
ポール・チャーチランドとパトリシア・チャーチランド(光る部屋) 1990 · 前提3を攻撃

暗い部屋で誰かが磁石を振っている場面を想像してみよう。光は現れない。ここから、光は電磁波でできていないと結論すべきだろうか。そうではない。部屋の中の動きが遅すぎるのである。同様に、サールの思考実験も遅すぎて、統語論が意味を生み出すことは決してありえない、ということを示してはいない。

Searleの応答
ジ
ジョン・サール 1990
サールはこう答える。その類比は成り立たない。電磁波には物理的な力があるが、記号には意味を生み出す物理的性質がまったくない。彼にとって、統語論は自然のなかには存在しない。コンピュータを計算しているものとして見るのは、観察者なのである。
議論の現状(当サイトによる要約)根本的な意見の相違点:P3は確立された事実なのか、それとも直観なのか。サールはそれを論理の真理とみなし、チャーチランド夫妻は経験的な問題とみなす。未決の論点:広く受け入れられた答えはない。
ダ
ダニエル・デネット 1980 · 結論を攻撃

脳には特別な力があり、それが乳を作るように「志向性」を生み出す、という考えは説明されていない。サールは、その力がどのようなものなのかを述べていないのである。デネットにとって、脳もまた機械であり、別の機械が同じことをするのを妨げるものは何もない。

応答なし
Searleはこの反論に答えていません。
議論の現状(当サイトによる要約)根本的な意見の相違点:サールは、脳の「因果的力」が何でできているのかを述べなければならないのか。彼は、それは哲学ではなく生物学の問題だと答える。反対者たちは、答えがなければ彼の結論は不完全なままだと考える。未決の論点である。