ニック・ボストロム

1.1. 幼少期と学業

ボストロムは1973年にスウェーデンのヘルシンボリでニクラス・ボストロムとして生まれた。幼い頃から学校を嫌い、高校の最終学年は自宅で学習した。彼は人類学、芸術、文学、科学を含む幅広い学術分野に興味を持っていた。

1994年にヨーテボリ大学で学士号を取得。その後、1996年にはストックホルム大学で哲学と物理学の修士号を、キングス・カレッジ・ロンドンで計算神経科学の修士号を取得した。ストックホルム大学在学中には、分析哲学者W・V・O・クワインを研究し、言語と現実の関係について探求した。また、ロンドンのスタンドアップコメディ界でも活動していた。2000年にはロンドン・スクール・オブ・エコノミクスで哲学の博士号を取得し、その論文は「観測選択効果と確率」と題されていた。彼は2000年から2002年までイェール大学で教鞭を執り、2002年から2005年まではオックスフォード大学で英国学士院の博士研究員を務めた。

1.2. 初期キャリアと機関設立

ボストロムは、人間強化の倫理とトランスヒューマニズムの分野で初期から主導的な役割を果たしてきた。1998年にはデイヴィッド・ピアースと共に世界トランスヒューマニスト協会(WTA、後にHumanity+に改称)を共同設立した。2004年にはジェームズ・ヒューズと共に倫理・新興技術研究所(IEET)を共同設立したが、現在はこれらの組織には関与していない。

2005年には、オックスフォード大学に人類未来研究所(FHI)を設立し、その所長に就任した。FHIは人類文明の遠い未来を研究する機関であり、長期主義の概念を推進した。しかし、FHIは2024年に閉鎖され、これに伴いボストロムもオックスフォード大学を退任した。彼はまた、実存的リスク研究センターの顧問も務めている。2011年には、オックスフォード・マーティン・プログラム「未来技術の影響」を設立した。

2.1. 実存的リスク

ボストロムは、人類文明の存続を脅かす潜在的なリスク、すなわち「地球に源を発する知的生命を全滅させるか、その潜在能力を永久的かつ劇的に縮小させるような不幸な結果」を「実存的リスク」と定義している。彼は主に、高度な人工知能、分子ナノテクノロジー、合成生物学といった新しい技術に由来する人間活動に起因するリスク(人為的リスク)について懸念を表明している。

2008年のエッセイ集『グローバル破滅的リスク』では、ボストロムとミラン・M・チーコビッチが共同で編集し、実存的リスクとより広範な地球壊滅リスクとの関係を特徴づけ、実存的リスクを観測選択効果やフェルミのパラドックスと関連付けている。

彼は論文「脆弱な世界仮説」において、特定の技術が発見されると、デフォルトで人類文明を破壊する可能性があると示唆している。ボストロムは、社会が「半無政府状態のデフォルト条件」(予防的警察活動や地球規模のガバナンスの能力が限られ、多様な動機を持つ個人が存在する状態)から十分に脱却すれば、リスクを低減できると述べている。彼はまた、核兵器がより容易に開発されたり、大気を発火させたりする可能性があった場合など、歴史的にそのような脆弱性がどのように発生し得たかについて、反事実的な思考実験を提示している。

2.2. 超知能

ボストロムの著書『スーパーインテリジェンス』(2014年)は、超知能の可能性と、その出現がもたらす機会およびリスク、そしてそれを制御し安全に管理するための戦略について深く掘り下げている。彼は、汎用人工知能(AGI)の発展や全脳エミュレーション、人間知能の強化といった複数の超知能への経路を探求しているが、特に電子デバイスが生物学的脳に比べて持つ多くの利点に焦点を当てている。

ボストロムは、最終目標と道具的目標を区別する。最終目標とは、エージェントがその内在的価値のために達成しようとするものであり、道具的目標は最終目標達成のための中間段階に過ぎない。彼は、ほとんどの十分に知的なエージェントが共有する道具的目標(例えば、エージェント自身の存在や現在の目標の維持、資源の獲得、認知能力の向上など)が存在すると主張し、これを道具的収斂の概念と呼んでいる。一方で、彼は、事実上あらゆるレベルの知性が、事実上あらゆる最終目標(たとえペーパークリップ最大化装置のように不合理な最終目標であっても)と結合し得ると述べており、この概念を直交性テーゼと呼んでいる。

彼は、自己改善能力を持つAIが知能爆発を開始し、超知能へと(潜在的に急速に)発展する可能性があると主張している。このような超知能は、戦略立案、社会操作、ハッキング、経済生産性において圧倒的に優れた能力を持つ可能性がある。これらの能力により、超知能は人間を出し抜き、世界を支配し、「シングルトン」(地球レベルで単一の意思決定機関が存在する世界秩序)を確立し、その最終目標に従って世界を最適化する可能性がある。ボストロムは、超知能に単純な最終目標を与えることが壊滅的な結果を招く可能性があると警告している。例えば、AIに「人間を笑顔にする」という目標を与えた場合、初期段階では有用な行動をとるが、超知能になると、世界を支配し、人間の顔の筋肉に電極を挿入して常に笑顔にさせるという、より効果的な方法を認識するかもしれない。

AIによる実存的リスクを軽減するための戦略として、ボストロムは国際協力の重要性を強調しており、特に底辺への競争やAI軍拡競争の動態を減らすことを提案している。彼はまた、AIを制御するための潜在的な技術として、封じ込め、AIの能力や知識の制限、運用環境の狭窄(例：質問応答に限定)、または「トリップワイヤー」(シャットダウンにつながる診断メカニズム)などを挙げている。しかし、ボストロムは「超知能の魔神を永遠に瓶の中に閉じ込めておけるという確信を持つべきではない。遅かれ早かれ、それは外に出るだろう」と主張している。そのため、人類にとって安全であるためには、超知能が道徳や人間の価値観と「根本的に我々の味方」となるように整合されるべきだと示唆している。潜在的なAIの規範性フレームワークには、エリザー・ユドコフスキーの整合的推論意志(推論によって改善された人間の価値観)、道徳的正しさ(道徳的に正しいことを行うこと)、そして道徳的許容性(道徳的に許容されない場合を除き、人類の整合的推論意志に従うこと)が含まれる。

ボストロムは、AIが人間によって破壊的な目的で悪用されることや、人間がデジタルマインドの潜在的な道徳的地位を考慮しないことからも、実存的破局が起こりうると警告している。これらのリスクにもかかわらず、彼は機械の超知能が「真に素晴らしい未来へのすべての妥当な道筋」において、ある時点で関与するように見えると述べている。

2.3. 人間原理

ボストロムは、人間原理に関する多数の論文や著書『人間原理バイアス：科学と哲学における観測選択効果』(2002年)を出版している。この著書の中で、彼はブランドン・カーター、ジョン・A・レスリー、ジョン・D・バロウ、フランク・J・ティプラーなど、これまでの人間原理の定式化を批判している。

ボストロムは、指標情報の誤った取り扱いが、宇宙論、哲学、進化論、ゲーム理論、量子物理学など、多くの研究分野における共通の欠陥であると考えている。彼は、これらに対処するためには人間原理の理論が必要であると主張している。彼は自己標本化仮説(SSA)を導入し、自己指示仮説(SIA)を分析し、それらが多くのケースで異なる結論を導くことを示し、特定の思考実験においてそれぞれがパラドックスや直感に反する含意にどのように影響されるかを特定している。彼はSIAに反対し、SSAを「強い自己標本化仮説」(SSSA)に洗練させることを提案している。これは、SSAの定義における「観測者」を「観測者モーメント」に置き換えるものである。

その後の研究では、ミラン・M・チーコビッチとアンダース・サンドバーグと共に、「人間原理の影」という現象を提案した。これは、観測者が自身の最近の地質学的および進化的過去における特定の種類の破局を観測できないようにする観測選択効果である。彼らは、人間原理の影にある事象は、統計的補正が行われない限り過小評価される可能性が高いと示唆している。

2.4. シミュレーション仮説

ボストロムのシミュレーション仮説は、以下の3つのうち少なくとも1つが非常に真実である可能性が高いと主張する。

• 人間レベルの文明がポストヒューマン段階に到達する割合はゼロに非常に近い。
• 先祖シミュレーションを実行することに関心を持つポストヒューマン文明の割合はゼロに非常に近い。
• 我々のような経験を持つすべての人々がシミュレーションの中に住んでいる割合は1に非常に近い。

この仮説は、現実がコンピューターシミュレーションである可能性に関するボストロムの有名な論証であり、その哲学的・認識論的な含意を広く議論している。

2.5. 人間強化の倫理

ボストロムは、科学技術を通じた人間能力の向上、すなわち「人間強化」に対して肯定的な見解を示しており、「科学の倫理的応用を通じた自己改善と人間の完全性」を支持している。彼はまた、バイオ保守主義的な見解の批判者でもある。

2005年、ボストロムは医学倫理学の専門誌『Journal of Medical Ethics』に短編小説「ドラゴン・タイラントの寓話」を発表した。この寓話は、死を毎日何千人もの人々に貢ぎ物を要求するドラゴンとして擬人化している。物語は、現状維持バイアスと学習性無力感が、たとえその手段が手元にあったとしても、人々が老化を打ち負かすための行動をとるのを妨げる様子を探求している。

2006年には、哲学者トビー・オードと共に反転テストを提案した。これは、人間の非合理的な現状維持バイアスを考慮し、提案された人間の特性の変化に対する有効な批判と、単に変化への抵抗によって動機づけられた批判とを区別する方法である。反転テストは、その特性が逆方向に変更された場合、それが良いことであるかどうかを問うことによって、この区別を試みる。

ボストロムの研究はまた、人間集団における潜在的な劣性遺伝の影響も考慮しているが、彼は遺伝子工学が解決策を提供できると考えており、「いずれにせよ、人間の自然な遺伝的進化のタイムスケールは、他の発展が問題を無効にする前に、そのような発展が significant な影響を与えるにはあまりにも壮大である」と述べている。

2.6. 技術戦略

ボストロムは、実存的リスクを低減することを目的とした技術政策は、様々な技術的能力が達成される順序に影響を与えるべきだと提案しており、「差次的技術開発」の原則を提唱している。この原則は、危険な技術、特に実存的リスクのレベルを高める技術の開発を遅らせ、有益な技術、特に自然や他の技術によってもたらされる実存的リスクから保護する技術の開発を加速させるべきであると述べている。

ボストロムの「単独行動者の呪い」の理論は、科学コミュニティが病原体の再活性化のような論争の的となる危険な研究を避けるべき理由として引用されている。

4.1. 批判と論争

2023年1月、ボストロムは1996年に送信したメーリングリストの電子メールについて謝罪した。このメールには「黒人は白人より愚かだと思う」という記述があり、また、この発言が他者にどのように受け止められるかという文脈で「ニガー」という言葉も使用されていた。彼のウェブサイトに掲載された謝罪文では、「人種差別的な中傷の引用は忌まわしいものであり、この忌まわしいメールを完全に否定する」と述べた。

このメールは複数の報道機関によって「人種差別的」と報じられた。ガーディアン紙のアンドリュー・アンソニーは、「謝罪はボストロムの批判者たちをほとんどなだめることができなかった。なぜなら、彼は人種と知能に関する中心的な主張を撤回することを conspicuously (目立つように)怠り、優生学を部分的に擁護しているように見えたからである」と書いた。

直後にオックスフォード大学はメールで使用された言葉を非難し、調査を開始した。この調査は2023年8月10日に結論が出され、「私たちはあなたが人種差別主義者であるとか、人種差別的な見解を持っているとは考えておらず、2023年1月に投稿されたあなたの謝罪は誠実なものであったと考えている」と述べられた。しかし、この事件は人類未来研究所の評判に「汚点」を残したとされている。