Research
AI 2040に対する「議論の地図」
AI Summary
- AI 2040のPlan Aは超知能開発を2040年まで遅らせる構想だが、その間もAGIによって社会が数世紀分に相当する変化を遂げるため、一般的な加速主義より速い「減速」シナリオだと位置づける。
- Plan Aをめぐる対立の中心は計画の細部だけではなく、AGIが文明を急速に変えるという前提と、ASIが短期間で人類の制御を超えるという前提を、各論者がどの程度共有しているかにあると整理する。
- 批判を、AGIの巨大な影響を認めつつテイクオフ速度や社会的摩擦を争う陣営と、AGI・超知能という能力前提そのものを疑う陣営に分け、同じPlan A批判でも出発点が異なることを示す。
- Nate Soares、Tom Davidson、Richard Ngo、Vitalik Buterinらの反応を比較し、AIガバナンスの議論では政策案への賛否の前に、能力・速度・社会実装についての前提を明示する必要があると結論づける。
この論考の背景
本記事は、AI Futures Projectが公開した未来シナリオ「AI 2040: Plan A」への多様な反応を、論者ごとの前提の違いから整理したものです。Plan Aは、米中協調や計算資源の検証を通じて超知能への競争を抑え、段階的に能力を展開するガバナンス構想です。
著者はPlan Aの正否を直接判定するのではなく、AGIや超知能の能力、テイクオフ速度、社会的摩擦について何を前提とするかで、同じ提案への評価が大きく変わることを示します。関連する技術爆発・産業爆発の全体像はAGI入門もあわせて参照してください。
論考のポイント
- 減速という名の加速 — Plan Aは超知能への移行を遅らせても、AGIによる科学・経済・制度の急変を前提としており、通常の感覚では十分に急進的な未来像だと指摘する。
- AGIピルとASIピル — AGIが数十年で文明を根本変容させるという見方と、ASIが数日から数年で人類の制御を失わせうるという見方を分け、論者の立場を読み解く軸として使う。
- 二つの断絶 — テイクオフ速度や社会的摩擦を争う内側の議論と、AGI・超知能の到来や文明的影響そのものを疑う外側の議論は、異なる論点として区別すべきだと整理する。
- 議論の前提を可視化 — 政策案だけを比較するのではなく、能力向上、知能爆発、物理・組織的ボトルネックに関する前提を先に明示することが、AI 2040をめぐる議論を理解する鍵になる。