以下は著者本人（AGI HUB共同代表）による note 掲載記事の全文です。原文（note）はこちら。
あなたは2030年にAGI（人間のできることならほぼ何でもコスト効率よく実行可能なAIシステム）により実効労働力が人間換算で2000億人、2040年にそれが100京人になり、実質GWPが現在の1000万倍、エネルギー使用量は少なくとも1000倍以上、汎用ロボットの数は百兆を超え、カルダシェフスケール文明タイプ1-2の間に到達すると言われたら信じられるだろうか。
私もここ数ヶ月信じられていなかった。信じられないと言うか空論すぎると考えていた。(この数字は後で解説するEpochAI GATEによるシミュレーション結果)
ちなみに普通の経済予測だと2040年の実質gwp成長予測はおよそ「2倍」。年間成長率3%でその程度だ。それが「1000万倍」になる可能性がシミュレーションで出てくるのは普通に小学生の適当な冗談みたいな話しすぎて意味不明だ。
しかしここ1-2年、直近だとこの数週間で上記のような「宇宙規模の産業爆発が急速に起こりわずか10-20年でカルダシェフスケール文明に至るという説得力のある議論」が増えている。
ちなみに少し脱線するがAGIの2027年頃の実現については相当真剣に考えるべきタイムラインになってきているため、この記事ではAGIが2027年頃に実現することは前提とする。
https://note.com/bioshok/n/n1aaf422b55ee
カルダシェフスケール産業爆発の論理
そして結論から言えばそのようなありえない空論ともいえる極端な短期間での産業爆発が起こる論理は以下のようになっている。
- 経済成長のボトルネックになっているのは人間。人間は年間数%しか増えないし自らのソフトやハードを急速に自己改善もできないため経済全体は現在数%の成長で維持されている。しかしAGIは急速な自己改善と自己複製が可能でその制約を突破可能。
- 太陽系には現在人類が消費しているエネルギーの1兆倍、天然資源が何千万倍何千億倍（天然資源の種類による）と存在する。
- 経済を爆発させるためのエネルギーはある、天然資源はある、それを効率的に利用可能な知能(AGI)もある。その場合信じられない速度で利用可能な天然資源とエネルギーの限界まで経済規模を爆発させることが物理的には可能になる。
- 経済規模を倍加させる物理的なスピードの上限は生物学的な複製子や現在のメガファクトリーの建設スピードや投資収益率を考えると保守的に見ても数年から数ヶ月の可能性がある。(この論文のThe industrial explosion節参照)
- よって1年で倍加以上(2倍-10倍)する経済は実現可能で10−20年で1000倍-100億倍に成長する。
ここでの議論への疑問で最初に出てきそうなのは、エネルギーや天然資源があり、それを効率的に利用可能な超賢いAIが何百億と初期いたとしても、「規制」により遅れるのではないかと言うものが挙げられる。
しかし、EA(効果的利他主義)コミュニティの研究者のCarl ShulmanやEA創設者のWilliam MacAskillらは米中の「宇宙開拓競争」になるため、規制より加速のインセンティブの方が高いといっている。
この発想は個人的には目から鱗だった。
今まで地球スケールで未来の超知能社会を考えていたが、エネルギーや天然資源の豊富さは太陽系や銀河スケールで考えると地球なんて誤差になる。
規制で数ヶ月遅れるだけで相手国の自己複製工場によって指数関数的に増えるこの宇宙規模での覇権争いという力学に米中はすぐに勘付くだろう。
宇宙には宇宙条約というものがあり人類共通の財産とされているが、そんなもの国家安全保障の圧力の前では役に立たないかもしれない。これから5−10年で太陽系の支配をめぐる競争が大国で起こる可能性がある。
その際、中国は製造業で米国よりリードしており、AGIをアメリカが最初に開発してもロボットの生産が宇宙の支配の要だとしたら、中国がこの戦いに勝つ可能性も十分にあるだろう。
Semianalysisは米国が中国にロボット革命でコストも製造能力も後れを取っていると安全保障上の警告を強く発している。もうすぐ汎用ロボットは人間と同等以上の効率であらゆる作業を汎用的にこなせるようになり、今までのロボティクスでボトルネックだった人間の労働の制約を超えて産業経済の能力を完全… https://t.co/3sqQI0nI5O
— bioshok（INFJ） (@bioshok3) March 11, 2025
今の汎用ロボットの争いはブルーカラー市場を狙った争いではなく、カルダシェフスケールの宇宙開拓争いの初動と見ることもできるのだ。
話を戻すと、このような宇宙レベルの爆発的な経済成長がAGI後に起こるという議論は主にCarl ShulmanやWilliam MacAskillにより話されていたり、Forethought、EpochAIによって真面目にレポートが書かれているので参考にしてほしい。
Carl Shulman on the economy and national security after AGI (Part 1)_80000hours.org_https://80000hours.org/podcast/episodes/carl-shulman-economy-agi/#top
Preparing for the Intelligence Explosion_AI that can accelerate research could drive a century of tech_ _www.forethought.org_https://www.forethought.org/research/preparing-for-the-intelligence-explosion
Three Types of Intelligence Explosion | Forethought_Once AI systems can design and build even more capable AI sys_ _www.forethought.org_https://www.forethought.org/research/three-types-of-intelligence-explosion
Will MacAskill on AI causing a “century in a decade” — and how we're completely unprepared_80000hours.org_https://80000hours.org/podcast/episodes/will-macaskill-century-in-a-decade-navigating-intelligence-explosion/?utm_campaign=podcast__will-macaskill&utm_source=80000+Hours+Podcast&utm_medium=podcast
Explosive Growth from AI: A Review of the Arguments_Our new article explores whether deployment of advanced AI sy_ _epoch.ai_https://epoch.ai/blog/explosive-growth-from-ai-a-review-of-the-arguments
EpochAI 「GATE」による産業爆発シミュレーション
特に最近EpochAIから発表された「GATE」と呼ばれるAI発展が経済に与える影響を評価するための統合評価モデルはそのような宇宙レベルの爆発的な経済成長がAGIが実現した後に起こるとシミュレーションで予測している。(以下図1,2)
図1 EpochAIのGATEで「Aggresiveシナリオ」を選択した時のGWPの推移
図2 EpochAIのGATEで「Aggresiveシナリオ」を選択した時の有効労働者数の推移
2027年に実効労働力(AIの実行するタスクを人間に換算した場合どの程度の労働人口が必要になるか)は人間の数十億人の労働力に数十億人がプラスされて100億人前後になり、2030年までに急速に増え2000億人になる。その後2035年には100兆人、2040年には100京人になる。
実効労働力が指数関数的に増えるに従って2030年の実質GWPは現在の10倍になり、2035年には1000倍になる。2040年には1000万倍になる。
これは「aggresive」なシナリオ（2028年までにAGI開発されるシナリオ）だが、保守的にパラメータを調整しても年間30%以上の実質的な経済成長が起こり、2045年には実質GWPが1000倍になる可能性がシミュレーション結果として示唆されている。
このように信じられない図1,2のような結果はAIの自動化によるフィードバックループによって引き起こされる。
つまり、AIのハード・ソフトの改善(Compute)→経済の自動化（Automation）→経済の発展(Production)→AIの更なる発展(Compute)によって直感的にはあり得ないと断言したくなるほどの急激な経済成長シナリオが出てくる。
図3 AI自動化のフィードバックループ
勿論政府による規制やパラメータの不確実性により敏感になるなどlimitationsは指摘されているが、政府による規制も宇宙規模の産業爆発が起こるならば、たとえ数ヶ月の遅れでも太陽系や銀河の支配が敵対国に阻まれできなくなる可能性があるため、規制より競争圧力の方が大きいという議論ができる。
エネルギーや資源も太陽系全体でみたら人類が現在消費しているスケールからすると桁違いに大きな量存在し、それを利用する知能だけが足りないと言うシナリオだろう。
イメージで言えば、大量の食料を補完する巨大なスーパーマーケットのシャッターの前で飢えている蟻のような存在が私たちなのかもしれない。目の前に資源もエネルギーも使い切れないほどあるが、それを使うだけのインテリジェンスだけが足りないのだ。
多くの人は人間のできることならほとんど何でもこなすAGIが誕生したら、真剣に何が起こるかを考えたことがないだろう。僕もそうだった。たった数ヶ月前まではAGIができたら世界中のホワイトカラーやブルーカラーの多くが失業して汎用ロボットの数も数十億台くらいにはなり、科学技術も加速するんだろうなぁという粗い解像度でしか**「AGI実現」のインパクトを捉えきれていなかった。
正直物理的な世界が変わるスピードは遅く、ソフトウェアの世界は早いんだろうけど、世界が変わるのはゆっくりなのではないかと考えていた。**
しかしそれはイメージしているインパクトの「桁が全然違う」かもしれない。AGIが実現した後に起こる世界へのインパクトを文字通り全くもって見当違いの過小評価を我々はしているかもしれない。
これから始まるのは宇宙規模の目も眩むような急速な産業爆発による人類史の数百万年、下手したら数十億年の生命の歴史の経過に匹敵するような事象の10-20年での実現かもしれないのだ。
これ普通に数百万年以上前の人類の世界総生産の世界から2025年にいきなりくるみたいな話なんだが…。1000万倍とか2045年だと100億倍のgwpになるのでもはや生命誕生のインパクトに近いのでは。https://t.co/txiKYcqcrY
— bioshok（INFJ） (@bioshok3) March 21, 2025
つまり、数百万年以上前の人類の祖先のアウストラロピテクスや猿が現代の文明にいきなり連れてこられたかのような衝撃を我々はもうすぐ味わうのかもしれない。もしくはミジンコや単細胞生物のような生命体がいきなり現代文明のど真ん中に放り込まれるような意味不明さかもしれない。
これは「原義の意味での」シンギュラリティが2045年に現実化する可能性が真剣に議論の俎上に乗ってきていると言う意味だろう。少なくともEAや合理主義コミュニティといったAGI実現後の世界を本気で懸念している人々による議論の俎上には「真面目なシナリオ」としてのってきている。
このことを我々日本人も実現すると思うかどうかは別として可能性としては理解しておく必要があるだろう。
産業爆発の課題、宇宙統治
もしこのような急速な産業爆発が起これば以下の論文でも紹介されているような無数の極端な課題(AGIが制御不可能になる可能性、独裁、テロ、人間の無価値化、宇宙統治の問題)が出てくる。
特に新しいと感じたのは宇宙統治(Space Governance)の問題だ。太陽系を超えて100億の銀河とそれぞれに付随する1000億の恒星系をめがけてその占有権を主張するために大国同士が競争になった場合、ただでさえAIと比較すると少ない人類によってコントロールできる可能性が低くなるかもしれない。
宇宙統治に失敗すると天文学的な数のAIを我々人類はコントロール不能になり、人類は絶滅するか、無価値化する可能性もあるだろう。
今記事で話した産業爆発シナリオとディストピア的な未来を克明に細かく描いたLessWrong投稿もあるので参考にしてほしい。
2025年から2040年までの読むのに1時間以上かかるとてつもなく解像度の高い未来シナリオがLesswrongに投稿された。これは皆読んでほしい。
・2026年にミレニアム未解決問題をGoogleのAIが解く。…
— bioshok（INFJ） (@bioshok3) March 8, 2025
このような未曾有の事態に我々人類は果たして対処できるのだろうか。
AIアライメント問題の深刻さもこのようなカルダシェフスケールの議論を聞くと深刻さを増すだろう。
元祖AI DoomerのEliezer yudkowskyは人類のエネルギー消費量の少なくとも10万倍以上を超知能が消費することで地球の温度が激増（平均気温100度以上）し殆どの生命が住めない環境になるというx riskとナノマシンによる瞬時の人類壊滅2つを良く脅威シナリオとして出している気がする。 https://t.co/TdzyqNJyT8
— bioshok（INFJ） (@bioshok3) February 17, 2025
本当の意味でのシンギュラリティ(人類とAIの融合、カルダシェフスケールの文明への短期実現、そしてそのリスク)が本当に近いうちにくるのかもしれない。