以下は著者本人(AGI HUB共同代表)による note 掲載記事の全文です。原文(note)はこちら

※この記事はメモ書きで詳細さや包括性を意図はしていません。

AGIが実現したのちに、1年未満で超賢いAIになり(知能爆発)、100年の進歩を少なくとも10年以下で達成し技術を爆発させ、産業を爆発させる(実質の世界総生産成長率が今の3%から30%以上になる)という議論がここ数年で説得力と詳細さを増している。(AGIピルという世界観

そしてその結果AGI開発以後10-20年でカルダシェフスケールタイプ1-2文明に到達し、不老不死になり、マインドアップロード技術もおそらく開発され、人間とAIが融合し何百万倍ものかしこさになるといったような原義の意味でのシンギュラリティが2040年代に起こる蓋然性が増しているように思える。

具体的に知能爆発)、技術爆発、産業爆発の3点で分けて今最先端で議論されている内容を本当に簡単に羅列すると、

・知能爆発は研究リターンr>1の証拠から可能性高い。

・技術爆発は半内生的成長モデルからの単純なアイデア生産関数でモデル化する。そして2種類の収穫逓減を組み込む。保守的な過程でもAGIがもたらす総研究努力のほうがでかすぎて、収穫逓減を圧倒するため100年を10年の進歩に加速することはもっともらしい。

・産業爆発も投資収益率と物理的な生物学複製子の議論から可能性が高い つまり宇宙規模の産業爆発がAGI実現後起こる可能性は相当高め(AGI実現を条件として50-70%くらいはあるんじゃないかと推定されている)

と議論されている。

それぞれ、知能爆発のr>1については

Will AI R&D Automation Cause a Software Intelligence Explosion? | Forethought_AI companies are increasingly using AI systems to accelerate_ _www.forethought.org_https://www.forethought.org/research/will-ai-r-and-d-automation-cause-a-software-intelligence-explosion

技術爆発と産業爆発の妥当性については

Preparing for the Intelligence Explosion_AI that can accelerate research could drive a century of tech_ _www.forethought.org_https://www.forethought.org/research/preparing-for-the-intelligence-explosion

で詳しく論じられている。

そしてこれらの結果をみて70-80%でAGI後30%の経済成長を感じてるEpochAIのMatthew氏のような人もいるようだ。

Is it 3 Years, or 3 Decades Away? Disagreements on AGI Timelines_In this podcast episode, two Epoch AI researchers with relati_ _epoch.ai_https://epoch.ai/epoch-after-hours/disagreements-on-agi-timelines

現在の経済成長率が10倍以上になる可能性はもしAGIが達成された場合、50%より少し高いとするレポートも出ている。

Explosive Growth from AI: A Review of the Arguments_Our new article explores whether deployment of advanced AI sy_ _epoch.ai_https://epoch.ai/blog/explosive-growth-from-ai-a-review-of-the-arguments

AGIピルを飲んでいる人はカリフォルニアの先端テックの界隈に多くいると思われるが、おおよそこのような議論が先端では行われつつある。

AGIは単にホワイトカラーやブルーカラーの役割を担うだけではなく、宇宙規模のカルダシェフスケール産業爆発を引き起こし、その結果人類は言葉にできないほどの次元で超絶豊かになるか、人類人口を天文学的な数で圧倒するAIの総数による地球環境の急変で絶滅するかという議論にも繋がってくる(勿論他にも無数のリスクはある)。

これは原義のシンギュラリティ、AI Doomerの世界観が現実味を増しているという話であり、とても注視していかなくてはいけない流れだと思われる。