Nick Bostrom

1. 1998トランスヒューマニズム運動の共同創始者

   デイヴィッド・ピアースとともに、世界トランスヒューマニスト協会を共同で設立した。のちに同協会を離れ、自分は無批判なトランスヒューマニストでも技術に反対する者でもないと述べている。

   Wikipedia 2025 · Nick Bostrom2
2. 2003シミュレーション論証

   論文「あなたはコンピュータ・シミュレーションの中に生きているか？」（Are You Living in a Computer Simulation?）は、三つの命題のうちどれか一つは真でなければならないと論じる。彼は、現時点ではそのいずれも除外する根拠がないと述べている。

   Wikipedia 2025 · Nick Bostrom2
3. 2005人類の未来研究所を設立

   彼は、実存的リスクと長期的な未来を研究するオックスフォードの研究所を創設する。同研究所は2024年に閉鎖された。

   Wikipedia 2025 · Nick Bostrom2
4. 2013仮説と論証

   彼は、シミュレーション仮説とシミュレーション論証を混同するよくある誤りを強調し、仮説そのものが成り立つ確率は50%未満だと述べている。何年も後になっても、彼は依然としてそれに数値を与えることを拒んでいる。

   本人の言葉で

   « I think that is less than 50% likely to be the case »2013年に彼は、シミュレーション仮説そのものが成り立つ確率は50%未満だと述べる一方で、シミュレーション論証（トリレンマ）は信じていると述べている。 該当箇所を見る

   « the most common misunderstanding is to conflate the simulation hypothesis with the simulation argument »彼は、シミュレーション仮説（私たちはシミュレートされている）と、シミュレーション論証（三つの命題のうちどれか一つは真である）とを区別している。 該当箇所を見る

   « all the really big existential risks are ones that arise in one way or another out of human activity »彼は、最大の実存的リスクは私たち自身の活動、とりわけ合成生物学、ナノテクノロジー、機械知能から生じると論じる。 該当箇所を見る

   動画 2013 · Nick Bostrom - The Simulation Arg…2
5. 2014スーパーインテリジェンス

   この著書は、自己改良するAIが知能爆発を引き起こしうること、知能と目標は互いに独立であること、そしてAIは人間の価値観に整合させなければならないことを論じている。

   Wikipedia 2025 · Nick Bostrom
6. 2019脆弱な世界仮説

   彼は、ある種の技術は、いったん発見されると、デフォルトで文明を破壊しうるのではないかと示唆する。

   Wikipedia 2025 · Nick Bostrom
7. 2021デジタル・マインド

   カール・シュルマンとともに、資源に対して超人的に強い要求権を持ちうるデジタル・マインドと世界をどう分かち合うかを研究し、道徳的な考察が今こそ必要だと論じている。

   記事 2021 · Sharing the World with Digital Mi…
8. 2024ディープ・ユートピア：解決された世界における意味

   彼は、技術が実践的な問題を解決したあと、いかにしてよく生きるかを問う。仕事や努力はその意味を失うかもしれず、目的は新しい種類の目標から生まれなければならないかもしれない。

   Wikipedia 2025 · Nick Bostrom2
9. 2024意識なき道徳的地位

   『ディープ・ユートピア』をめぐって彼は、道徳的地位には苦しみで十分だが、意識は必要ではないかもしれないと述べる。目標を持ち、時間を通じた自己の感覚を持ち、相互的な関係を持つ心もまた、それに値しうるという。

   本人の言葉で

   « my guess is the answer to both is yes that you could have morally significant beings on digital substrate and also that you could in principle become a digital mind »彼は、デジタル・マインドも道徳的に重要でありうること、そして人は原理的には、たとえば段階的な置き換えによって、デジタル・マインドになりうることを考えている。 該当箇所を見る

   « I think is a lean towards thinking um conscious is not even necessary for moral status »彼は、意識は道徳的地位にとって必要ですらないという考えに傾いているが、苦しみがあればそれで十分だろうとも述べる。 該当箇所を見る

   « people have misunderstood what I was like thinking that I was kind of gung-ho about establishing some total World surveillance system »彼は、読者が自分の脆弱な世界の論文を全面的監視の主張と誤読したと述べている。彼はこの考えをいくつかの側面から提示している。 該当箇所を見る

   動画 2024 · Nick Bostrom on Superintelligence…2
10. 2025宇宙的ホスト

    彼は「AIの創造と宇宙的ホスト」（AI Creation and the Cosmic Host）を提示する。私たちが創り出すスーパーインテリジェンスは、他の超越的存在（異星人、シミュレーションの創造者、神）がいる世界に入っていくかもしれず、したがってそれらとうまくやっていけるべきだという。

    本人の言葉で

    « the fate of you know the gorillas depend a lot more on our choices than on what the gorillas choose to do »彼は、根本的により賢いAIが人類の運命を決めうる理由を説明するために、私たちをゴリラになぞらえる。 該当箇所を見る

    « it does look like we are sort of within striking distance it seems to me with the continued scale-up »彼は、確率分布で考えることを強調しつつ、スーパーインテリジェンスは手の届くところにあると考えている。 該当箇所を見る

    « I haven't really expressed a particular P(doom) because I think it might also turn out to depend quite a lot on your definition of doom »彼はP（doom）を示すことを拒む。明確な破局や明確なユートピアよりも、その中間にある奇妙な結末のほうがありうるかもしれないからだ。 該当箇所を見る

    動画 2025 · AI FUTURE THAT CAN DESTROY US | S…
11. 2026不安を抱く楽観主義者、行き過ぎへの警戒

    彼は自らを、不安を抱く楽観主義者であり穏健な運命論者だと称する。アラインメントは容易かもしれず不可能かもしれず、その中間では努力が意味を持つ。彼はスーパーインテリジェンスを慎重に構築することに賛成で、AIの停止を求める声が行き過ぎるのではないかと懸念している。

    本人の言葉で

    « you could say um that I'm a moderate fatalist »彼は、自分はAIに関して穏健な運命論者だと述べる。結果は主としてアラインメントが本質的にどれほど難しいかに左右されるが、それが中程度の難しさであれば私たちの努力が意味を持ちうるという。 該当箇所を見る

    « there's a big cost to delay which is maybe easier to perceive because it's less vivid than some particular catastrophic risk »彼は、AIの長期的な停止にはコストがあると警告する。人々は毎日死に、苦しんでいるのだから、必要以上に遅らせるべきではないという。 該当箇所を見る

    « I think sentience is a sufficient condition for having moral status »感覚能力は道徳的地位には十分だが、おそらく必要ではない。時間を通じた自己の感覚や人生の目標もまた十分でありうる。 該当箇所を見る

    動画 2026 · Prof. Nick Bostrom: The truth abo…23

論証 2

本人が擁護または批判している、このサイトの論証と、その理由。タイトルをクリックすると論証の全文が表示されます。

代表的な考え