身体、世界、状況：規則が語らないもの

ドレイファスによるAI批判

Hubert Dreyfus 1929 · 2017人間の知性は、規則の集合からではなく、世界に関わる身体から生じる。だから、すべてを形式化しようとするプログラムは失敗するのである。

その主張：

したがって、記号的AIは、人間の知能がこのノウハウ、この背景、この状況に基づいている場面では、その知能を再現することに失敗する。すでに1965年に、ドレイファスは、知的行動をコンピュータ言語で分析すると、人間に固有のこうした情報処理の形態が「体系的に排除される」ことを見抜いていた。

なぜか

人間の知性は、明示的な規則に還元できない、身体的なノウハウと常識に基づいている。

歴史を貫く同じ発想

マルティン・ハイデガー1927『存在と時間』において、人間はまず「世界内存在」である。人間は、物事を表象するより先に、物事のなかで巧みに立ち回っている。これはドレイファスが依拠している源泉である。

Maurice Merleau-Ponty1945『知覚の現象学』は、生きられた身体を、私たちがそれによって世界を理解するものとして記述している。ドレイファスは早くも1965年に、これを可能な道筋として挙げている。

ルートヴィヒ・ウィトゲンシュタイン1953ウィトゲンシュタインは、私たちは自分たちの概念の正確な境界線を引くことができないこと、そして規則に従うことはもう一つ別の規則を適用することではないことを指摘している。ドレイファスは早くも1965年に彼を引用している。

Hubert Dreyfus1972『コンピュータには何ができないか』という書物は、この批判を展開している。身体、状況、そして人間の欲求である。

要点

「身体、世界、状況：規則が語らないもの」は、問い「機械は思考できるか？」（答え：生きた身体が必要である）に関するHubert Dreyfusの論証です（『錬金術と人工知能』、1965年；『コンピュータには何ができないか』、1972年, 1972）。その主張は次のとおりです：したがって、記号的AIは、人間の知能がこのノウハウ、この背景、この状況に基づいている場面では、その知能を再現することに失敗する。すでに1965年に、ドレイファスは、知的行動をコンピュータ言語で分析すると、人間に固有のこうした情報処理の形態が「体系的に排除される」ことを見抜いていた。。 AskPhilosophyの論理チェック（Z3ソルバー）によれば、この論証が妥当であるのは、著者が明示していない前提（P4）を認める場合に限られます。 AskPhilosophyでは、3件の反論を紹介しています。そのうち3件には文献に基づく応答があり、各前提の元になった原文も一字一句照合して確認しています。

『錬金術と人工知能』、1965年；『コンピュータには何ができないか』、1972年

暗黙の前提を補えば妥当

1960年代の初め、最初のプログラムがチェスを指し、定理を証明し、その作り手たちは、機械がまもなく私たちのように考えるようになると宣言する。現象学の訓練を受けた哲学者ヒューバート・ドレイファスは、それは行き止まりだと答える。医者、運転手、話し手がうまくふるまうとき、彼らは規則の一覧に従っているのではない。生きた身体によって獲得されたノウハウ、誰も書き留めたことのない常識という背景、そして状況において何が重要かをつかむ仕方に頼っているのである。したがって、すべてを明示的な規則に変えようとするAIは、本質を見逃している。重要な補足：ドレイファスは、どんな機械も決して考えることはないと言っているわけではない。彼が標的にしているのは、特定の種類のAI、すなわち規則によって記号を操作するAIである。

前提をクリックすると、それを退けられます

すべての前提を受け入れるなら、論理によって結論も受け入れざるをえません。したがって、議論は前提をめぐるものになります。

論理ソルバーで検証済み：すべての前提が真で結論が偽であることはありえません。
暗黙の前提がない場合： P4がなければ、コンピュータは、規則に還元できない能力が、規則しか持たないプログラムによってやはり再現されうるような世界を見いだすことになる。

P4とともに妥当である。この隠れた前提はほとんど定義に近い。記号的AIのプログラムは明示的な規則でできている。攻撃の的はほかにあり、P2である。ノウハウが規則に還元できないことを示すのは非常に難しく、反論が効いてくるのはまさにそこである。ドレイファス自身も射程を限定している。1965年の要約では、知的活動の四つの類型のうち、人間のこうした情報処理の形態なしにプログラムできるのは二つだけである。

類推. マニュアルで自転車の乗り方を学ぶとする。「左に傾いたら、ハンドルを比例した角度だけ左に切る……」。誰もこうした規則を適用して自転車に乗ってはいない。熟練者は身体にノウハウを持っており、マニュアルは、たとえ完璧なものでも、その影しか与えない。このイメージはドレイファスの解説者たちによるもので、彼自身のものではない。

反論

それぞれの反論は一つの対話です。クリックすると、誰が応答しているか、そして議論が今どこにあるかが分かります。

ジ

ジョン・マッカーシー、マーヴィン・ミンスキー、ナサニエル・ロチェスター、クロード・シャノン 1955 · 前提2を攻撃

AIの創設期の計画は、これと逆の推測から出発する。学習のあらゆる側面や知能のその他のあらゆる特徴は、原理的には、機械がそれをシミュレートできるほど精密に記述できる、というものである。まだ書き表せないノウハウは、解決すべき問題であって、限界ではない。

擁護者の応答

ヒ

ヒューバート・ドレイファス論証の擁護者 · 1965

ドレイファスは、既存のプログラム（ゲーム、機械翻訳、パターン認識）を検討して応答する。そこで直面する困難は、機械の性能に由来するものではない。知的行動をコンピュータ言語で分析すると、人間に固有の三つの情報処理の形態（周辺意識、本質的なものと偶有的なものの区別、曖昧さへの寛容）が体系的に取り残される。

マ

マーヴィン・ミンスキー 1974

要約：ミンスキーは「フレーム」を提案する。これは、典型的な状況（部屋、誕生日パーティー）を、その通常の期待とともに記述する知識構造である。これは常識と文脈を書き表す一つの方法であり、ドレイファスはそれを形式化できないと述べていた。

議論の続きを見る（1）

ヒ

ヒューバート・ドレイファス 1992

要約：『コンピュータにまだできないこと（What Computers Still Can't Do）』の序論で、ドレイファスは、フレームは問題を解決せずに移し替えるだけだと判断している。現在の状況にどのフレームが合うかを依然として決めなければならず、その選択は、世界の中の誰かにとって何が重要かに依存するが、それはどのフレームにも含まれていないからである。

議論の現状（当サイトによる要約）根本的な意見の相違は、常識を書き表すことができるかどうかにある。AI研究者たちは数十年にわたってそれを試みたが（フレーム、大規模な知識ベース）、成果は限られており、ドレイファスはそれを自説の裏づけと読む。擁護者たちは、その作業は途方もなく大きいが不可能ではないと応じる。

デ

デイヴィッド・ラメルハート、ジェームズ・マクレランドとPDPグループ 1986 · 前提4を攻撃

ニューラルネットワーク（コネクショニズム）には書かれた規則がない。それは例から学習し、何千もの結合を調整する。それが知っていることは明示的な規則の一覧ではないが、それでもそれは機械である。したがって、記号的AIに対する批判は、機械一般には当てはまらない。

擁護者の応答

ヒ

ヒューバート・ドレイファス論証の擁護者 · 1992

要約：ドレイファスはこの点を部分的に認める。ネットワークは規則に対する批判を免れるので、記号的AIよりも有望な道である。しかし彼は、ネットワークが身体も、欲求も、物事が自分にとって重要となる世界も持たないかぎり、人間のノウハウに到達できるかどうかを疑っている。それがなければ、ネットワークは何が適切かを知らないまま一般化するのである。

議論の現状（当サイトによる要約）両陣営は一点では一致している。ニューラルネットワークは明示的な規則を適用しない、ということである。意見が分かれるのはその先だ。大規模な学習は、身体も生命もないまま、ドレイファスが生き物に固有だと考える状況への感受性を取り戻せるのか。近年のディープラーニングの成功は、この問いを再び開いたが、決着をつけてはいない。

ロ

ロドニー・ブルックス 1991 · 結論を攻撃

ブルックスも、記号的表象が邪魔になるという点は認める。単純な知能であれば、世界そのものを自らのモデルとして用いるほうがよい。しかし彼はそこから別の結論を引き出す。身体を備え、現実のオフィスで監督なしに行動するロボットを作ることができる、というのだ。したがって、身体は機械にとって障害ではなく、解決策なのである。

擁護者の応答

ヒ

ヒューバート・ドレイファス論証の擁護者 · 2007

要約：ドレイファスは「Why Heideggerian AI Failed」で、ブルックスが正しい方向（身体があり、中央モデルがない）に進んでいることを認めつつ、これらのロボットが昆虫の水準を超えていないと指摘する。彼によれば、これらのロボットにはなお、生き物にとって物事が意味をもつ「関連性」を成り立たせるもの、すなわち固有の欲求と、自らにとって重要なものに適応する身体が欠けている。

議論の現状（当サイトによる要約）ドレイファスとブルックスは、表象の中央モデルを退ける点で一致している。何を付け加えるべきかでは意見が分かれる。ブルックスにとっては、現実世界にあるロボットの身体があれば一歩ずつ進歩するのに十分である。ドレイファスにとっては、欲求をもつ身体と、物事が重要となる世界が必要である。未解決の問いである。