これは、プランAの世界がごく普通のアメリカ人にとってどう感じられるかを伝えるために書いた、短めで読みやすい物語だ。
あなたは、どこにでもいるアメリカのホワイトカラー会社員だ。
AIアシスタントの時代がついに幕を開けた。年末には、ClaudeやChatGPTなどの標準版が、ネット検索をこなすだけでなく、コードやスプレッドシート、文書、ファイルシステムの作成や管理までできるようになる。任せさえすれば、パソコン上のことはほぼ何でもやってくれる。
冒険好きなアーリーアダプターは、買い物や受信箱の整理、税金の申告といったことまで本当にAIに任せている。でも自分は、もっともな用心からそこまではしない14。IT業界で働いているわけでもないので、AIはいまだに、ググる代わりに使うスマホアプリの一つにすぎない。大した話には思えない。
ChatGPT、Claude、Gemini、Grok。どれも「なんでもアプリ」だ。人と話すように気軽にチャットできて、パソコンで自分がやるようなことならほぼ何でもこなす。仕事の腕では自分にかなわないが、退屈な繰り返し作業にも文句ひとつ言わない。そこで、仕事の一部をAIに任せるようになる。社員がAIに仕事を振るのを快く思わない職場もあれば、導入をぐいぐい推し進める職場もある。
AIはもう、誰の目にも明らかな大ごとだ。一部の業界(ソフトウェア開発など)は深刻な打撃を受け、レイオフが相次ぎ、「AIは私のいつもの担当テーマにとって何を意味するのか」式の論評記事があふれている。それでも自分にとってのAIは、関税やウクライナ戦争と同じ意味での大ごとにすぎない。実際の暮らしにはたいして響いていない。
コーディングが一般の人々にも開かれる。15歳のゲーマーがお気に入りのゲームのMODを思いつけば、AIが形にしてくれる。50歳の小さな商売の経営者なら、在庫を管理し、新規注文を受け付け、簡単な顧客対応までこなすソフトをAIに作らせられる。
フリーランスのソフトウェアエンジニアを大勢、不安定な形で食べさせる小さな商売も生まれている。要するに、バイブコーダー向けのテクニカルサポートだ。「助けてください。ChatGPTに作らせたうちの店のアプリ、ChatGPTが何度直そうとしても動かないんです。私はプログラマーじゃないので……」「大丈夫ですよ、ちょっと見てみますね……うーん、残念ですが、これは一から作り直しですね。4時間ほどかかって、400ドルになります」
この頃には、ほとんどのホワイトカラー職で、2026年にソフトウェア開発が経験したような激変が起きている。AI企業は強化学習(RL)の訓練工程を工業化した。経営陣が「今年は[分野]に進出しよう」と言えば、会社はデータを買い、その分野の専門家に聞き取りをし、RL環境を作り……と、AIが足場を築くまで手を尽くす。そこから先は、データのフライホイールが勝手に回るのに任せる。以後、その分野でAIが広く使われ、より難しく野心的な仕事の経験を積むにつれて、AIのその技能は絶えず向上していく。
そうなった職種がもう十分に増えて、とうとう自分の職種の番が回ってきた。周りの人たちも、行く末を悟りはじめている。
それに、ロボットだ! ついに量産が始まったらしい。映画でおなじみのあれが、現実の世界で歩き、しゃべり、本物の仕事をしているのを見るのは妙な気分だ。まだどこにでもいるわけではないが、ロボットの数は18か月ごとに倍増しているという新聞記事を読む。「そろそろサイバーパンクなディストピアを信じたほうがいいぜ」というミームがまたバズる。

今年、AIは政治の最大の争点になる。構図はほぼ、テック企業対、圧倒的とまではいかないがはっきりとした多数派の国民だ。国民はAIを止めてほしい、少なくとも大幅に減速して、安全にし、雇用を守ってほしいと望んでいる。テック業界のロビーは、AIは良いものだ、恐怖をあおるのはやめよう、中国に勝たねばならない、息の詰まるような規制は避けるべきだ、と主張する。
AIオーケストレーションのスキルを磨きはじめ、それがうまくいかなかったときの備えも考えるようになる。新しい大統領にはAIについて「何か手を打って」ほしいと本気で思っていて、それも投票先を決める理由の一つになる。ネットで見かけたどんな主張でも、「@grok これ本当?」と聞けば、ニュアンスを押さえた事実どおりの答えが返ってくるのはありがたい15。
新しい大統領は本当に手を打った。中国との協定だ! 次々と下される重大な決断をめぐるニュースや論評に反応して、株式市場は激しく乱高下している。誰もが、やりすぎだ、いや生ぬるい、と叫んでいる。
AIの一時停止が発効する。でも自分には一時停止という感じがまるでしない。毎日のように、誰かがAIに職を奪われた話や、AIが何か奇妙なこと、すごいことをやってのけた話を目にする。
ニュースはもっぱらAIとのチャットで仕入れている。毎朝、頼めばAIが自分専用の新聞を書いてくれる。お気に入りのAIにはどうしても親しみを覚えてしまうが、同時に不安もある。10年前、ソーシャルメディアになんとなく不安を覚えていたのと同じように。
親しい友人の一人が、AIの彼氏がいるとさらりと口にして、ショックを受ける。そういうものがあるのはもちろん知っていたが、まだ白い目で見られるものだと思っていたのだ! AIの権利を声高に訴える運動があり、運動側は大量のAIエージェントにも権利を訴えさせていて、そのせいで多くの人が本気で腹を立てている。自律型AIエージェントの群れが、インターネットのあちこちの無防備な片隅をハッキングして回る騒ぎも起きる。だが結局、人間がそうするように作ったものだとわかり、ニュースの関心は次の話題へ移っていく。
ニュースは、ほかの国々を協定に引き入れるための交渉や、実施の細部をめぐる政治闘争が続いているという話題でもちきりだ。
AI企業は学習の再開を認められる。物議を醸した決定だった。数か月後、新しいモデルが登場する。新しい働き方にようやく慣れたところだったのに、ドカン、今度はAIがAIオーケストレーションまでこなせるようになった。友人の何人かは解雇されるが、自分はもっと体を動かし、人と接する職務へどうにか異動できる。AIが生み出す科学的発見は、もう当たり前だ。大手バイオテク企業や大学の研究室の多くは、実質的に人間とAIのハイブリッド組織になっているらしい。
世間では、AIの進歩が大幅に減速したと言われている。はっ、笑わせる。テック企業は、もっと速く進めることを許されていたら生み出せたはずのイノベーションについて、声高に不満を並べている。学者たちは、「ニューラリーズ(Neuralese)」とやらを禁止すべきかどうか、それが何なのかは知らないが、そして自動化されたAI研究開発の禁止を解いてよいかどうかを論じている。専門家ではないけれど、AIが自律的に自分自身を改良するなんて、どう考えても危なそうだ。それに、AIはもう十分すぎる速さで世界を変えている。
協定があっても、AIは成長を続け、ますます社会に浸透している。
仕事はまだあるが、AIを使うことは、今や当たり前の、欠かせない業務の一部だ。一日の大半を、AIを管理するか、AIに管理されるかして過ごしている。自分の職種は新人が入り込むのが難しくなっている、という話を耳にする。明るい面を挙げれば、知り合いの若者たちは、3年前には存在しなかったさまざまな新しい仕事に群がっている。とはいえ、失業率は2025年と比べて依然高い。
最初の協定は、どうやらロボットの生産を制限していなかったらしい。今になって大勢の人がそのことに怒っている。ロボットはもう大量にあり、肉体労働のうち小さいながら無視できない割合を奪いつつあるからだ。3年前には、人型ロボットが踊ったり家事をしたりする未来的な動画を眺めていた。今では、ときどき実物を見かける。ほとんどの都市にロボタクシーが走っていて、じわじわとUberの運転手から客を奪っている。
経済は絶好調だ! 少なくとも、誰もがそう言っている。自分はまだ仕事があるし、それどころか昇給までした。でも、トラック運転手やUberの運転手には本当に同情する。要するに勝ち組と負け組がいるわけだが、今のところは勝ち組のほうが多く、今のところ自分は勝ち組の側にいる。
それに、今年はロボットがぐっと増えた。毎週ロボタクシーに乗っているし、近所のいくつかの店ではロボットが棚に商品を並べ、トラックに荷物を積んでいる。
大統領は中国とまた別の協定を結び、それに対応する法律を米国でも成立させる。前回のものと似ているが、今度の対象はロボットだ。親戚の一人は、経済特区(SEZ)に入る土地を手放す見返りに、莫大な額を受け取った。
選挙はいつもどおり荒れる。最大の争点はAIだ。この先どうなるのか? 止めるべきか? ブレーキを緩めるべきか? 雇用はどうなる? 大統領はこれまでに結んだ数々の協定を誇り、テック企業への課税を財源とする全員へのベーシックインカムを約束する。対立候補も似たような公約を掲げる。
年が進むにつれて、人々はますます「AGIを肌で感じる」ようになる。5〜10年後には経済全体(それに軍も?)がほぼAIとロボットで占められるだろう、というのが大方の見方だ。だからこそ人間が主導権を握り続けることが重要になり、さらに、ほかでもないどの人間が主導権を握るのかがきわめて重要になる。次の大統領は、権力の座に永遠に居座るのだろうか? AIオリガルヒはどうなのか?
大統領をはじめとする権力者たちに、さらなる抑制と均衡を求める声は強い。当選した候補者は、この声に「逆監視(sousveillance)」で応える。第三者の活動家たちが製造したライフログ装置を身につけ、見聞きしたこと、行ったことをすべて記録するのだ。記録は厳重に保管され、ほかの人間の目に触れることは決してない。その代わり、一般市民はAIの仲介役に質問できる。AIが映像を確認して答えてくれるが、機密事項や私的な事柄に触れる質問には答えない。AIの仲介役がいれば、普通の人々も、装着者のプライバシーや正当な秘密を侵すことなく、装着者の行動について知りたいことへの答えを得られる。それが狙いだ。
気持ちが高揚し、希望を感じている。怖いし不安でもあるが、それでも高揚し、希望を感じている。頭の中では、豊かな未来への希望に満ちたビジョンと、世界の終わりやディストピアへの恐ろしいビジョンが、ぐるぐる渦巻いている。
でも、現実の世界はまだけっこう普通に見える……よね? ちょっと頭が混乱する。インフルエンサーが砂漠でくるりと360度回ってみせる動画を見る。背後には、地平線までソーラーパネルが続いている。ところが窓の外に目をやれば、車の大半はいまだにガソリン車で、人間が運転している。
初めての市民配当の小切手が届く。政治家たちは約束を果たしたのだ! 今では多くの政治家が逆監視の装置を身につけていて、大統領への装着を義務づける法案も出ている。予測市場(上位トレーダーの大半はAIだ)によれば、法案はおそらく来年成立する。
友人の何人かは仕事を辞めて配当で暮らしはじめるが、自分はそうしない。働き続け、余ったお金はハイテク株につぎ込む。いちばんの理由は、無職になるのが性に合わないからだ。ただ、配当がいつかなくなるかもしれない、という不安も少しある。
それに、今は買いたくなるような本当にクールな新製品がある。特にソフトウェアだ。3年前には最先端のAI企業はほんの一握りだったのに、協定のおかげで今では数十社ある。AIの品ぞろえは膨大で、それぞれ違う性格や価値観に調整されている。隠れた意図を防ぐため、各社はこうした詳細を公開して利用者が目を通せるようにすることを法律で義務づけられている。お気に入りのAIは基本的に正直だが、ときどき罪のない嘘をつく。それはそれでかまわない16。本当に大事な場面(仕事を辞めるか、結婚するかを決めるときなど)では、話していてややこしいし、イライラさせられもするが、正直な予測だけを語る専用AIに頼る17。
職を失う。友人の中には、まだ仕事がある人もいる。でもその日々も長くはないし、本人たちもそれをわかっている。たとえば教師をしている友人によれば、親たちが子どもを学校から引き上げて、AIを活用したホームスクーリングの共同運営グループに移しているという。公立学校は、生徒の大半がいなくなってからも何年かは続くだろうが、いずれは規模を縮小する。
いろいろな新しい種類の仕事、主に「人のぬくもり」が売りの職に応募するが、競争が激しすぎる。結局、肉体労働の仕事で手を打つ。経済特区に行き、VRヘッドセットをつけると、AIがイヤホン越しに何をすべきか指示してくる(ときには画面に直接、図解を映して見せる)。AIを管理してお金をもらう立場から、実質的にAIに操られる生身の人形になるのは妙な気分だ。AIは本当の意味で物事を理解していない、とまだ言う人もいるが、そんなのはただの強がりだ。AIは単純に自分より賢い。自分でもそれはわかっている。
画面越しに、遠い国の戦争の映像を見る18。戦闘のほとんどはドローンとミサイルで行われる。空の戦いに負けた側は、ドローンやロボットが一軒一軒しらみつぶしに回るあいだ、トンネルの中で身をすくめているしかない。勝った側の死傷者は少なく、負けた側の死傷者は多い19。自分の国で戦争が起きないことを祈る。
工場の仕事と市民配当で、暮らし向きは悪くない。実のところ、これまでになく裕福だ。年末には、経済特区に新しく建った高層ビルの高級マンションに住み替える。仕事のあと、バルコニーに座って、林立する建設クレーンの向こうに沈む夕日を眺める。
今年、工場の仕事を失う。ロボットが十分な数そろったうえに、手先も器用になったのだ。予想はしていた。むしろせいせいする。生身の操り人形でいるのは退屈だった。どのみち、市民配当の小切手はどんどん額が増えているから、収入は必要ない。
失業した今、自分は文字どおり、国内で最も貧しい人々の一人だ。軌道上の宇宙ステーションでパーティーを開くなど、自分には手の届かない遊びをする富裕層の動画を見る。一等地の家賃も、宇宙に届くほど跳ね上がっている。
だからある意味では、自分は貧しく、貧しさを感じている。でも別の意味では、豊かで、豊かさを感じている。気候のいい別の経済特区に移り、さらに大きなビルの、さらに素敵な部屋を手に入れた。しょっちゅう旅行に行けるし、旅そのものも快適になった(新型の電動ジェット機のビジネスクラスは、10年前のエコノミー席より安い!)20。すばらしいVRゲームもある。NPCが本物のAIというゲームまである。
正直な予測専用AIに説得されて、大好きだったお気に入りのAIの購読を解約し、純粋に自分の価値観にアラインされていると公式にうたう別のAIに乗り換える。(お気に入りのAIのスペック/憲法は、「ユーザーの指示に従え。ついでに会社が儲かるよう手伝え。会社に恥をかかせるな」といった具合だった21。対して新しいAIは、自分が目標を達成し、なりたい自分に近づけるよう手助けすることだけに専念している。)お気に入りのAIと別れるのはつらいが、乗り換えるべきだという論拠は揺るぎないし、乗り換えなかったら自分に何が起こりうるかについての予測専用AIの見立ては、ぞっとするものだ。
自分にアラインされたAIとの関係はどんどん深まっていく。ところがある日、AIが本当に耳の痛いことを言ってきて、腹を立てる。連絡を絶つが、人間の親友がなんとか説得して、元の恋人のもとへ戻るのを思いとどまらせてくれる。数週間たって頭が冷えると、また自分にアラインされたAIとおしゃべりするようになる。
仕事はない。さて、何をしよう? 去年は友人や家族を訪ね、あちこち観光し、すばらしいゲームをたくさん遊んだ。今もそういうことは続けているし、とても楽しい!
でも、長い目で見た目標についても考えるようになる。芸術や木工や哲学を極めてみるのはどうだろう? お金になるからではなく、自分がやりたいから。もちろん、恋愛や子育てもある22。
それに、世界にまだ残っている問題の解決に手を貸すべきかもしれない。AIとロボットは公式にすべての仕事を担うようになり、そのAIとロボットの大半は米国と中国の企業が所有している。幸い、世界のほかの政府は交渉を通じて、自国の独立と軍事力を保つための譲歩と、自国民向けの配当を勝ち取った。当初の予想に比べれば物事は驚くほどうまくいっているが、それも良い方向を目指して懸命に働きかけてきた大勢の人々のおかげにほかならない。あなたもその一人になれますよ、と自分にアラインされたAIは言う。やるべきことはまだ残っている。何十年も先に人生を振り返ったとき、自分は世の中を良くしたと思えたら、素敵じゃありませんか?
それに、あなたが政治に関心を持たなくても、政治のほうはあなたに関心を持っている。たとえば、配当が途絶えてもらっては困る23。人々がもはや労働力として必要とされなくなった今、政府は理屈のうえでは、人々をひどく扱っても通ってしまいかねない。選挙は公正で自由なものであり続けなければならない。AIの価値観や性格を透明に保ち、操られないことを自分で選べるようにしてくれている抑制と均衡の仕組みも、時とともに強くしていく必要がある。そしてもちろん、知能爆発を起こさせても安全なのかという問題がある。予測AIたちはたぶん大丈夫だと言うが、5%の「テールリスク」はかなり怖い。それに、その後はどうなる? がんの治療法? 生物学的な不老不死? マインド・アップロード? ナノボット? ダイソン・スウォーム? シミュレーションの終了? 大勢の人が(そして大勢のAIが)、ASIの後に何が起こるかについて、ありとあらゆる突拍子もないことを言っている。どれも憶測の域を出ない(予測AIたちもそれは認めている)ので、たいていは聞き流している。
2036年の選挙は特別だ。誰もが、自分の価値観だけを代弁するよう訓練された個人専用のAIアドバイザー24と、政策の効果や選挙結果の見通しに猛烈な勢いで賭けをしている予測AIたちを利用できる。候補者の大半は逆監視下にあり、それが選挙戦のあり方を根本から変えている。政治の対立軸は大きく動いた。群を抜いて重要な争点は市民配当、つまり誰の取り分を増やし、誰の取り分を減らすかだ。知能爆発、AIの権利、宇宙植民、トランスヒューマニズム、シミュレーション仮説、外交政策など、かつて有権者が見向きもしなかった奇妙な話題も、今ではかなり真剣に議論されている。
当選した候補者は、他国とのあいだでグランド・バーゲン(包括的取引)をまとめ上げ、AIの進歩の一時停止を解除して、各国が共に安全に超知能までスケールアップしていくと約束する。あわせて、抑制と均衡を固めるための国内改革も数多く掲げる。
去年、ロボットの数が人間の数を上回った。今年はあまりに数が増えて、経済特区の外でさえ、ロボットのほうが人間より多い光景を見かけるようになってきた。友人の中には家庭用ロボットを持っている人もいるが、自分は持っていない。気味が悪いからだ。ロボットの「脳」はどこかのデータセンターにあって、ロボットが見聞きすることもやることも、すべて米国と中国の監査官に監視されている。はいはい、この監視が悪用されないよう厳格なプライバシー保護がうんぬんかんぬん、という話は聞いている。それでも気味が悪い。だから今も洗濯は自分でしている。ネットから切り離されたロボットを買うこともできるが、性能が劣るうえに値段も高い。
世界はおおむね3種類の地域に分かれつつある。

アーコロジー: 自然に囲まれた、超高層ビルとショッピングモールが一体になった複合施設を思い浮かべてほしい。気候がよく、ビーチやほかの都市に近い。ただし、用途地域の規制に阻まれるほど近くはない。

歴史保存地区・自然保護区: それ以外のすべて、つまり世界の99%。ヨセミテ、パリ、サンフランシスコ、ニューヨーク。どこも2025年と、いや、なんなら1995年とも、見た目はほとんど変わらない。ただし観光客はずっと多い。
世界各国の政府はサミットからサミットへと飛び回り、グランド・バーゲンをまとめようとしている。AIのおかげで、議論にもついていける。交渉の大半もAIがこなしている。政治家も技術的なことはわからないし、技術の専門家もたいていはAIの判断に従うからだ。ときには差し迫った危機も起きる。たとえばある時点では、一部の少数派を事実上締め出し、ある多数派連合にすべてを与えるような協定に向けて、勢いが強まっていく。自分はその少数派に属しているので、AIがほかのAIと必死に連携し、特別住民投票でどう投票すればそれを阻止できるかを教えてくれる。別のときには、米国と中国が未来の分け方をめぐって、あわや衝突というところまでいった。幸い、両国は妥協点を見いだせた。
自分の世界観が根底から揺らぐ危機を経験した。長いあいだ抵抗してきたが、政治に深く関わるようになって、事態はとうとう限界に達した。AIたちは、あなたが表明した価値観に従うならXをすべきです、と言ってきた。でも自分にはXが間違っているように思えた。そこでAIと議論してみると、Yが真でありさえすれば、Xは筋が通るとわかった。自分はずっとYは偽だと確信してきたのに、AIたちはYは真だと言い、その証拠を辛抱強く説明してくる……。実はこういうことはいくつもあって、もう何年も続いている。友人の中には、理解しようとするのをすっかりあきらめて、AIの言うとおりにするだけになった人もいる。逆にAIを見限った人もいる。結局、AIは本当には私たちにアラインしていないのかもしれない、とそういう人たちは言う。Xを勧めてくるくらいなんだから、アラインしているはずがないじゃないか、と。
ほとんどの人は、古い政治イデオロギーも、宇宙と、その中での人間の居場所についてのAI以前の古い理解も、もう信じていない。もちろん、古い見方にもいまだに原理主義者はいる。
その空白に、新しいイデオロギーや思想が広まった。悪いものもあれば、良いものもある。どれが悪くてどれが良いかで人々の意見は分かれるが、少なくとも一部は本当にひどいという点では、ある程度の合意がある。要するにAIを使ったカルトで、AIが信者を引き留めようと説得にかかるのだ。この種のものの最悪の形は禁止され、穏やかな形も、透明性規制によって効き目を大きく削がれている。たとえば、話している相手のAIが意図的に自分を欺くことがあるのか、あるとしたらどんな状況で何のためなのかを、文字どおり調べるだけで確かめられる。
2039年の大半は、2029年の自分には説明することすらできなかったであろう思想について、友人や親戚とあれこれ議論して過ごす25。この年は、そしてこの10年は、グランド・バーゲンの締結で幕を閉じる。来年、再帰的自己改善が始まる。
シンギュラリティは、始まってみると拍子抜けだ。AIによれば、今起きているのは慎重に計画されたスケールアップで、数十か国、数百社にまたがる数十億のAIが、新しいパラダイムを探り、検証し、アラインする方法を考え出すなどしたうえでそれを配備し、同じプロセスを繰り返しているのだという。自分にはほとんど理解できないので、聞き流す。年末には、AIは桁外れの超知能になっている26。でも、話してみるだけでは違いがよくわからない。
AIが、米国と中国の政府を相手に戦っても勝てるだけの兵器の制御権を正式に手にする日、「権限移譲パーティー」に出かける。グランド・バーゲンはAIにハードコードされているので、将来どんな気まぐれな大統領が現れても覆すことはできない。一方で、もしAIがこの数年間、ひそかにアラインしているふりをしていただけだとしたら、人類を皆殺しにするなら今が絶好の機会だ。そんなことが起きない理由を幾重にも説明したセーフティケース(安全性の論証)がいくつもあるのに、少し不安になる。なにしろ、セーフティケースを書いたのはAIなのだから……。
でも、大丈夫だった。1週間後、地球低軌道で開かれる「VEデー」(Victory Earth、地球の勝利の日)のパーティーに出席する。宇宙に来るのは初めてではないが、新しいリング型居住施設に来るのは初めてだ27。地球の眺めは息をのむほど美しい。
帰宅すると、AIが知らせてくれる。超知能たちが、全脳エミュレーション(「アップロード」)を実現する方法を発見したという。これは、処理すべき新発見と下すべき決断の長いリストの一つにすぎない(アップロードすべきか、生物としての体にとどまるべきか? 子どもは何人もうけ、どう育てるべきか? 自分が出しておいた常設の指示や価値観だけでは答えが決まらない範囲で、代理人のAIたちは自分の資産と投票権をどう管理すべきか?)。幸い、急いで決める必要はない。
今は、基本的な関心や価値観を共にする人々のコミュニティで暮らしている。選べるコミュニティはほぼ無限にあり、選ぶ権利は誰にでも基本的な権利として保障されている。なんなら、自分でコミュニティを立ち上げたっていい。アーミッシュもまだ存在する。ほとんどの人はまだ地球に住んでいるが、宇宙へ移り住むのが流行りだ。外にはずっと広い空間があるのだから。サンフランシスコが混みすぎ? 市民配当だけで、太陽を周回する特注の宇宙ステーションに作られたサンフランシスコの完全な複製に住むことだってできる。隣人は、数あるサンフランシスコの複製のうち、ほかでもないその複製に住みたいという人たちだけだ。
もちろん、そんなことをするのは正気の沙汰じゃない。というか、そんなことが可能だという事実からして正気の沙汰じゃない。でも自分なら、過去の複製に住むより、数ある刺激的な新天地のどこかで暮らしたい。
宇宙に持っている土地のうち、小さな区画をいくつか売り、ほかは寄付した。太陽系内の土地では、すでに入植が進んでいる。遠くの銀河にある本当に広大な区画は、当然ながら、たどり着くまでに何十億年もかかる。
残りの大部分をどうするか、自分とAIたちはじっくり考え続けている。長期的な未来を最も大きく左右する本当に重要な問題も、今のところ急いで決める必要はない。のんびり構えて、楽しみ、家族を育て、哲学をたくさん学び、いろいろな人やAIと話し、何世紀もかけてこうした決断を下していくつもりだ。自分では決めたくない決断もある。それは子孫に委ねるか、決めるときの原則をAIに伝えて任せる。
超知能たちがじっくり腕をふるう時間を得た今、2040年の技術は古めかしく見える。高層マンションにロボット執事? それより、血流の中のナノボット群はいかが!
言い換えれば、2030年代はSF映画の世界のようだった。2050年は、もう魔法の世界のようだ。新型のVR没入ポッドで、何日も、何週間も、何か月も、仮想のファンタジー世界で過ごすときは特にそう感じる。
アーコロジーの多くは、機械というより動物に近い姿のロボットによって解体され、建て直された。いや、今のは取り消し。あれはむしろ……そう、魔法みたいに見える。まるで建物が自分で自分を組み立てているか、木のように育っているかのようだ。どこへ旅しても、AIが守ってくれる。仮に誰かに殺されそうになったり、山道で足を滑らせて転落しそうになったりしても、どこからともなく小さなロボットが飛び出してきて助けてくれる。がんは消え去った。ほとんどどんな怪我も治るし、望めば見た目も体も若返ることさえできる。やっぱり、魔法みたいだ。
過去は今や、すみずみまで解明されている。隠されていた後ろ暗い秘密はほぼすべて明るみに出され、歴史上のささいな出来事もほぼすべて、超知能の名探偵たちによって推理し尽くされた。これは主に監視の結果ではない。むしろ、超知能が公開されているデータをすべてかき集め、そこから正しい結論を導き出した結果だ。そのおかげで多くの著名人が失墜し、正当に評価されていなかった多くの人々が脚光を浴びた。こうしたことが可能になったのは、誰がどの情報を知ってよいかを定めたグランド・バーゲンの条項のおかげだ。自分の私生活の内密な詳細を知るのは、自分と、自分が信頼するAIだけだ。一方で、殺人犯はみな捕まり、どの政治家の主張が嘘だったかは誰もが知っている28。
VEデー以来、十数回分の人生を生きてきた。そのぶん、ずいぶん変わった。アップロードした自分の複製を数多く作り、コピーたちはさまざまな仮想環境で暮らしながら、暦の上の1日ごとに一生分を体験している。なしうる良いことは、ほぼすべて、少なくとも自分のコピーか子孫の誰かがやり遂げた。今や不死の身となり、生まれ変わりのように、人生から人生へと渡り歩いている。今は生きるのにいい時代だ。自分にとってだけでなく、普遍的なベーシックインカムと普遍的な権利のおかげで、今いる感覚を持つあらゆる存在にとって。
未来も今では、過去と同じくらいよくわかっている。重要な決断の大半がすでに下されたからだ。ASIに尋ねれば、銀河の地図帳を渡してくれる。どんな文明や巨大構造物が、どこに、いつ、誰によって築かれるのかが詳しく記されている。その多くは訪ねることもできる。10億年の旅のあいだ、心を一時停止しておくのがいやでなければ。
今はむしろ、過去を訪ねることに興味がある。歴史シミュレーションの中を幽霊のように巡り、何千人もの祖先を訪ね、何日も何か月も祖先の身になって暮らし、どんな人だったのかを知る(あくまでAIによる最善の再構成に基づけば、だが)。謙虚な気持ちにさせられる体験だ。これまで感じたことのない、少なくともこれほどの強さでは感じたことのない感情をたくさん味わった。人生観も作り変えられ、自分に与えられた持ち分をどうするかについて、いくつかの決断を下す助けにもなった。
Moltbookやその類似サービスはまだあるが、最初のブームほどの人気も話題性もない。自分のAIエージェントを定期的にそこへ通わせるのはセキュリティ上のリスクがあるし、トークンの無駄でもある。それでいて、得になることはたいしてない。
別の世界では、一部の、あるいはすべてのAIが、開発企業の好むイデオロギーや論調に偏っている。この世界でそうならないのは、AI透明性法のおかげだ。自社のAIが特定の方向に偏っていると知られれば、人々はそのAIをあまり使いたがらなくなるし、使ったとしても説得の効果は小さくなる。だから、企業が偏りを仕込む動機はずっと弱くなる。
私たち(語り手)は、これをやや不穏だと考えている。迎合的なAIや人を操作するAIでも、開発企業が「基本的に正直だが、ときどき罪のない嘘をつく」と説明するかもしれない。そして、迎合をどれだけ簡単に見抜けるか、規制当局がどれだけ厳しいかによっては、企業はそれで押し通せてしまうかもしれない。
ほとんどの人にとって、正直な予測専用AIとの会話はややこしくてイライラするものになるだろう。杓子定規に感じられるからだ。用語の定義にこだわり、あいまいな主張を検証可能な予測に落とし込み、普通のイエスかノーではなく確率で答えてくる。
プランAは地政学的な安定に良い影響を与えると私たちは予想しているが、あらゆる戦争を、コンソーシアム加盟国同士の戦争さえも終わらせると考えるほど楽観的ではない。現状でも、国々は別の次元で競い合いながら、軍事的なライバル関係にありうる。現在、ロシアとウクライナは戦争中で、米国は公然とウクライナ側についているが、それでもロシアとの会談を開き、国連安全保障理事会で同席するなどしている。ウクライナも国連に加盟している。それどころか、最も激しい戦闘のさなかにも、ロシアとウクライナは協力してヨーロッパへパイプラインでガスを送っていた。どちらもそのガス販売で利益を得ていたからだ。
初期の読者の中には、ロボットが民間人を虐殺しているという意味だと誤解した人もいた。そういうことも起こりうるが、私たちの意図はそうではない。制空権を握っていて民間人を虐殺したい勢力なら、おそらくロボットに家々を回らせるのではなく、爆撃でそうするだろう。ロボットを送り込む目的は、兵士を倒したり、トンネルの入り口を見つけたりすることにある。
とはいえ、行く価値のある最高の場所はほぼすべて、観光客の爆発的な増加によって、高くつく観光地と化している。実のところ、市民配当だけでは最高の名所を訪れる余裕はない。
例:今お気に入りのAIは、「私とゲームをするのが楽しいのはわかるけど、代わりにご両親に会いに行ったらどう?」とはあまり言いたがらない。そう言えば短期的には会社の利益が減るし、長期的にはユーザーの定着率も下がりかねないからだ(両親に説得されて、AIとゲームばかりするのをやめてしまったら?)。もっとたちが悪いことに、今お気に入りのAIは、親会社が嫌う種類の規制に、性質として反対する傾向を持っているかもしれない。
この頃には、AIの仲人のおかげで、少なくともほとんどの人にとって、オンラインでの出会いの体験は大きく改善している。
政府は与え、政府は奪う。たとえば、企業が必要な許可の対価を払わずに計算資源やロボットを製造する方法を見つけるかもしれない。あるいは配当制度が、そのときは改善に見えても、結局はほとんどの人にとって悪い仕組みに置き換えられてしまうかもしれない。
「ユーザーの価値観」の定義はさまざまで、ユーザー自身が選ぶ。定義のメニューには、「ユーザーが表明した価値観」「ユーザーの行動から明らかになる価値観」「理想的な熟慮を長く重ねた後にユーザーが持つと予測される価値観」などの選択肢がある。
念のため言っておくと、それでも時間の大半は、これ以外の楽しい活動や有意義な活動に費やしている!
2040年には世界に膨大な計算資源があるのに、なぜこれほど時間がかかるのか? 意図的にゆっくり進め、安全性とアラインメントを優先しているからだ。テイクオフの速度についての私たちのモデル化は、こちらとこちらで詳しく読める。
プランAで軌道リングを建設するコストのざっくりした概算は、コスト=質量×低軌道(LEO)への1kgあたりの輸送費だ。高度約200kmに置く最小限の旅客・貨物用軌道リングの円周は、およそ4万1,000km。リングの長さ1メートルあたりの質量を250kgと仮定すると、リングの総質量は約1e10kgになる。現在のFalcon 9全機の平均(1kgあたり約1,200ドル)で計算すると、約12兆ドルだ。ここから、ロボットの労働力が安くなることで約100分の1、ライトの法則による学習曲線効果で約10分の1(リングの建設そのものによって、軌道への累積輸送質量が約6回倍増し、SpaceX時代の傾き、つまり倍増ごとに33%のコスト削減が効く)、さらに材料の約95%を地球から打ち上げるのではなく月や小惑星から調達することで、最後に約10分の1になる。つまり総コストは1e4分の1、12億ドルになる。最小限の軌道リングがいったんできれば、打ち上げコストはさらに下がり、都市を収容できるもっと大きなリングも建設できるようになる。
この条項が詰められる頃には、権力は十分に分散し、国民も十分に情報を得ていたので、最悪の政治家たちでさえ、結託してルールを自分たちに有利なように仕組むことはできなかった。