ボストロム『ディープ・ユートピア』を読むすべてが解決した世界で、人生の意味はどうなるのか

ニック・ボストロム『Deep Utopia』（2024年）の内容を、AGI Hub編集部が要約・解説したものです。AGI Hubの見解とは区別しています。

AIの開発がうまくいき、病気も貧困も労働もなくなったら、人は何をして生きるのでしょうか。哲学者ニック・ボストロムは、2024年の著書『Deep Utopia: Life and Meaning in a Solved World』（未邦訳）でこの問いに取り組みました。この記事では、6日間の講義と若者3人の物語で進むこの本を、場面のイラストと図を使って曜日ごとに読んでいきます。

どんな人が書いたのか

著者のニック・ボストロムは、スウェーデン生まれの哲学者です。オックスフォード大学の教授を務め、2005年から閉鎖される2024年まで、同大学の人類の未来研究所（Future of Humanity Institute）を率いました。現在は非営利の研究組織、Macrostrategy Research Initiativeを主宰しています。

ボストロムの名を広めたのは、2014年の『スーパーインテリジェンス』です。この本は、人間よりはるかに賢いAIが生まれたときの危険を論じ、AIの安全を考える研究が広がるきっかけの一つになりました。それから10年後に出た『Deep Utopia』は、逆向きの問いを立てます。AIがうまくいき、あらゆる問題が解決した後、人生に意味は残るのかという問いです。

6日間の講義と3人の若者

この本は論文の形をとっていません。大学で開かれる6日間の連続講義「ユートピアの問題」を中心に、講義の合間の場面と配布資料が交互に出てくる、少し変わった作りです。

講義を聞くのは、温泉町に遊びに来ていたテシウス、ケルビン、フィラフィックスの3人です。学生でもないのに毎日もぐり込み、講義の後は温泉に入り、町を歩きながら議論します。講義はなぜか毎回、何かの邪魔が入って途中で打ち切られます。教授が配る読み物には、森のキツネのフョードルがおじに宛てた手紙という寓話も入っていて、月曜から木曜まで、講義のたびに続きが配られます。

ボストロム自身は、講義の道のりを岸から沖へ出る航海にたとえています。

月・火曜日　豊かさはどこまで行けるか

1いちばん素朴なユートピア

中世ヨーロッパの農民は「コケインの国」を夢見ました。誰も働かず、焼けた魚が足元に跳ねてきて、家の壁はソーセージでできている国です。ボストロムは、豊かな国に住む私たちは、もうこの夢の半分ほどまで来ていると書いています。冷蔵庫には食べ物があり、24時間届けてもらえ、冷房の効いた部屋は一年中春のようです。ただし世界の何億人もの貧しい人々と多くの動物は、まだこの外にいます。

2ケインズの予言は半分だけ当たった

ジョン・メイナード・ケインズ1930

経済学者

週15時間

予言

2030年までに生産性は4〜8倍になり、週の労働時間は15時間に減る

当たった

1930年以降、生産性は5倍超、1人当たりGDPは7倍超に増えた

外れた

週の労働時間は約4分の1減っただけで、およそ36時間にとどまる

ケインズは1930年のエッセイ「わが孫たちの経済的可能性」で、豊かになった人類は余暇を持て余すのではないかと心配しました。

写真：作者不明、パブリックドメイン、Wikimedia Commons

予言の前半は当たり、後半は外れました。私たちは増えた豊かさを、余暇ではなく消費に使ってきたからです。ボストロムはこれを、強欲が怠惰に勝ったと表現しています。では、生産性がさらに何十倍にもなれば、人はやっと働かなくなるのでしょうか。新しいぜいたく品や地位の奪い合いがある限り、そうならないかもしれません。この本は、その先にある、人間が働く必要そのものがなくなった世界を考えます。

3技術が成熟した文明の大きさ

ボストロムの言う技術的成熟とは、物理法則が許す範囲で、ほぼすべての技術が手に入った状態です。原子レベルの精密な製造、人間をはるかに超える超知能、すべての病気の治療と老化の逆転、現実と見分けのつかない仮想現実、気分や性格の精密な調整などが含まれます。

配布資料には、こうした文明がどこまで大きくなれるかの見積もりが並びます。

4技術では消せない限界

それでも残る限界があります。物や力がいくら増えても、私たちの価値の形そのものから来る限界は消えません。地位のように誰かが得れば誰かが失う財、世の中に影響を与えること、やるべき目的、初めての経験、欲しいものが手に入るとそれ以上はほとんど良くならない「飽和」、そして道徳上の制約です。

火曜日、ケルビンは葬式に出るはずでしたが、霊柩車がパンクして木曜に延びました。喪服のまま講義に出た彼は、講義の後、配布資料の「どんな感覚入力でも作れる」に異を唱えます。計算が宇宙の寿命を超える入力もあるはずだ、というのです。3人は着替えてから、丘の草の上で議論を続けました。

水曜日　仕事がなくなったら、人は何をするのか

水曜日の講義は、完全な失業の世界から始まります。配布資料には、砂の城、ジム、庭仕事、合唱、カヤック、星空観察など、仕事がなくてもできる活動が延々と並びます。それでも退屈する人がいるなら、原因は活動の数ではなく、その人の退屈しやすさにある、とボストロムは言います。教育と文化を変えれば、仕事のない世界の退屈は今より減らせるという見立てです。

ところが話はそこで終わりません。技術が成熟すると、仕事だけでなく、余暇の活動をする理由まで消えていきます。

浅い冗長性と深い冗長性

浅い冗長性

深い冗長性

いらなくなるもの

浅い冗長性仕事

深い冗長性あらゆる努力

起きること

浅い冗長性自動化で職がなくなる

深い冗長性買い物も運動も勉強も、する理由がなくなる

手がかり

浅い冗長性子ども・学生・貴族・修道士・引退した人の暮らし

深い冗長性ほとんど検討されてこなかった

答えの方向

浅い冗長性余暇の文化を育てる

深い冗長性何かのための行為が要らない「ポスト道具的」な生き方を考える

ここから、この本の中心にある進歩のパラドックスが出てきます。

私たちは少ない努力で多くを得るために進歩に全力を注ぐ。それが完全に成功したら、人は退屈しきるか、快楽に浸るだけの存在になるのではないか

目標に向かって全力を尽くしながら、失敗を祈るような奇妙な立場になってしまう、という懸念です。ボストロムはこれに対して、目的の喪失を防ぐ五つの防衛線を、天守から外側の城壁まで同心円に並ぶ城の守りのように示します。

一つ目の防衛線について、ボストロムは快楽だけの存在は悪い未来ではないと言います。見て面白い時代は、そこで生きる人にとってはたいてい悲惨な時代です。「快楽を追うと不幸になる」という教訓も、今の技術を前提にしたものにすぎず、技術があれば快楽は飽きずに続けられます。そのうえ経験の中身は、今の私たちよりはるかに豊かにできます。

木曜日　望めば何でも形にできる世界

技術が成熟した世界は可塑的になります。部屋に原子とエネルギーがあれば、「机とパソコンと暖炉と子犬がほしい」と言うだけで、そのとおりに組み上がる世界です。

その特別な場合が「自己全能」（オートポテンシー）で、自分自身を体も心も思いどおりに作り変えられる状態を指します。すぐに喜びを感じる自分にも、切手集めに夢中な自分にも、ライオンの姿にもなれます。ボストロムは、これまでのユートピア論を急進さの順に5つに分け、この本が扱うのは下の2つだと位置づけます。

完璧な世界は退屈ではないか、という疑問にも答えます。退屈という感覚は、心の工学で取り除けます。問題は、客観的に見て面白い人生かどうかです。宇宙規模で見れば、ナポレオンやアリストテレスの人生にさえ前例があり、本当に新しいことには限りがあります。それでも、万華鏡のように絶えず変わる複雑さとしての面白さなら、ユートピアではとても高くできる、とボストロムは見ています。

ただし、人間の本性を雑に作り変えるのは危険です。感情や性格は複雑に絡み合っているので、今の知識で心をまるごと作り変えれば、すばらしくなるどころか台無しになりかねません。技術が成熟すれば、超知能の助言を受けて慎重に進められる、というのが彼の答えです。

金曜日　星を頼りに航海を続ける

目印のない深い冗長性の海では、高い価値を星にして進むしかありません。金曜日は、充足、豊かさ、目的を順に見ていきます。

心理学者の大石繁宏とエリン・ウェストゲートは、人生の良さを三つに分けました。幸せな人生を送った人は死の床で「楽しかった」と言い、意味のある人生を送った人は「世の中を変えた」と言い、心理的に豊かな人生を送った人は「なんて旅だった」と言うだろう、というのです。調査では、幸せや意味より豊かな人生を選ぶ人が、かなりの数いました。ユートピアでは、経験はとても豊かにできます。

ユートピアで、人間の目的はどこから来るか（配布資料19より）

人工的な目的

自然な目的・超自然的な目的

どんな目的か

人工的な目的目的を持つために、わざと作る目的

自然な目的・超自然的な目的自分の外にある理由に根ざした目的

自分で、または人から

人工的な目的自分で目標を決める、技術で意欲を起こす、自分を難しい状況に置く。ほかの人や社会・文化から与えられることもある

自然な目的・超自然的な目的人や伝統を敬う、約束を果たす、美的な表現、霊的・宗教的な務め

誰にとっても大事な仕事

人工的な目的（該当なし）

自然な目的・超自然的な目的宇宙への進出、まれな事故への対処、異星人への備えなど。ただし人間は機械に勝てないかもしれない

金曜日の配布資料には、奇妙な寓話もあります。大富豪が全財産を、愛用の電気ストーブ「サーモレックス」のための財団に遺しました。理事たちは、ストーブのために何をすべきか頭を悩ませます。ストーブはいつから恩恵を受け始めたのか、家族も友人もいないことは問題か、話せるようになったストーブが「ごみ捨て場に捨ててくれ」と言ったらどうするか。良い人生とは何かを、人間以外の存在で考えさせる問いです。

土曜日　人生の意味とは何か

最終日の講義は一般にも公開され、長い行列ができました。ボストロムはここで「人生の意味」を定義します。ある目的が人生の意味になるのは、次の3つを満たすときです。

ボストロムはこれを「包括的で超越的な目的」と呼びます。意味は主観か客観かという古い問いには、どの段階で考えるかで意味の概念が変わり、どれも正しい使い方だと答えます。今意識して望んでいることから、自分にとって何が最善かという客観的な真理まで、8段階の物差しを示しています。

そして「では、人生の意味とは」と答えを言いかけた瞬間、学部長が耳打ちします。会場は6時までしか借りていない、と。

講義はここで終わる。答えは聴き手に委ねられた

原文では、この場面に「余白が狭すぎた」という一言が添えられています。証明を書くには余白が狭すぎると書き残した、フェルマーの最終定理の逸話をもじったものです。

1あなたなら、この賭けに乗るか

講義の後、テシウスが2人に問いかけます。今の人生をふつうに終えるか、それとも賭けに乗るか。賭けは、x%の確率で何百万年も生きるポストヒューマンとして最高の人生を得られ、残りの確率で即死する、というものです。

ケルビンは「10%くらいかな」と答え、フィラフィックスは「50%に近いどこか。本当にそんな話が来たら、もっと考えたい」と答えます。答えた確率は、ユートピアの人生を今の何倍良いと思っているかを表します。10%で賭けるなら10倍、50%なら2倍です。

2雨の墓地と、夏の夜

講義の後、3人は古い教会の墓地を歩きます。ある墓石には、一生のうちに食事をした回数や風呂に入った回数が刻まれ、草に隠れた最後の行には「二度死んだ。一度はメアリーが去ったとき、もう一度は甲状腺がんで」とありました。フィラフィックスは「私たちの人生は、結局これだけのものなのかな」とつぶやきます。

その夜、詩の朗読会に最後に登場した老詩人は、付けひげで変装したボストロム教授でした。雨が上がると、3人は港のパーティーへ向かいます。物語は「夏だね」という一言と、皆が末永く幸せに暮らした、という結びで終わります。

寓話「キツネのフョードル」

講義と並行して、教授が配る読み物の中でもう一つの物語が進みます。森のキツネ、フョードルがおじに宛てた手紙です。動物たちの苦しみをなくしたいという願いと、その難しさは、人間の文明にもそのまま重なります。

まとめ

『Deep Utopia』は、AIのリスクを論じてきた人が、リスクを乗り越えた後の世界を真剣に考えた本です。AIの安全を考えることは、何を守り、どこへ向かうのかを考えることでもあります。

出典と画像について

• 本書：Nick Bostrom, *Deep Utopia: Life and Meaning in a Solved World*, Ideapress Publishing, 2024（著者のページ）。配布資料の番号は原書に対応し、数値・事例は原書の記述による
• 「心理的に豊かな人生」の研究：Oishi, S. & Westgate, E. C. (2022). A psychologically rich life. *Psychological Review*
• ボストロムの写真：Future of Humanity Institute、CC BY 4.0、Wikimedia Commons
• 『怠け者の天国』：Pieter Bruegel the Elder、パブリックドメイン、Wikimedia Commons
• オニール・シリンダーの想像図：NASA／Rick Guidice、パブリックドメイン、Wikimedia Commons