テイクオフ予測

Brendan Halstead

本補足では、プランAの各局面におけるAI能力の予測方法を説明する。AI Futures Modelを修正し、四つの状況をシミュレーションした。

  1. 能力向上を減速させる協定がなかった場合の既定軌道、

  2. TED-AIまで制御しながらスケーリングした後、アラインメント研究のために停止するプランAコンソーシアムの軌道と、

  3. ある秘密プロジェクト協定に違反して秘密裏にAGI構築を試みる軌道、

  4. その後の軌跡協定の失効。この軌道では、協定後の計算資源の大半が破壊され、先行プロジェクトが再び開発競争を始める。

以下もこの構成に沿って説明する。セクション1では、プランAモデルと2025年12月版AI Futures Modelの相違点、すなわち学習実行モデルの大幅な変更、計算資源予測の更新、既定パラメータの変更を扱う。セクション2から4では、残る3つの状況をシミュレーションするために追加した拡張を説明する。AI Futures Modelの文書を未読なら、先にそちらを読むことを勧めるこちらまず。

コアモデルの変更

ここでは、2025年12月版AI Futures Modelとの三つの相違点を説明する。いずれもシミュレーションする全軌道に適用する。

フロンティア学習実行の明示的なモデリング

ほかの多くのAIテイクオフモデルと同様、2025年12月版AI Futures Modelでは、実効学習計算資源 E(t)E(t) ある時点における累積学習計算資源C(t)C(t)フロンティアモデルの値(FLOP)に、その時点のソフトウェア効率を掛けた値S(t)S(t)(FLOPあたりの現在換算FLOP)として定義した。

E(t)=C(t)S(t).E(t) = C(t) \cdot S(t).

実際の学習実行には時間がかかるが、上式は、現在のソフトウェア効率を、すでに使用中のモデルの学習実行へ遡及適用すると仮定している。その結果、やや過大評価テイクオフがどれほど速く進むかを表した。しかしプランAにとってさらに重要なのは、このモデルでは、次のような状況を適切に扱えないことである。学習システム性能(FLOP/年)が、そのプロジェクトで利用できる最良モデルを学習したシステムに比べて急に小さくなる状況をうまく扱えず、秘密プロジェクトや協定失効後がこれに当たる。

プランA版ではこれに代えて、実効学習計算資源が一度の長期学習実行の中で連続的に増加し、その増加率は次の要因で決まるとモデル化する。学習システム性能 T(t)T(t) と、既知の学習手法のソフトウェア効率を掛けた値で決まる。

E(t)=T(t)S(t).E^\prime(t) = T(t) \cdot S(t).

このレートを実効学習システム性能と呼び、ETSPと略す。

すべての入力が指数関数的に増える場合、ETSPと実効計算資源も同じ率で指数関数的に増えるため、このモデルは単純なモデルと同じ挙動を示す。ほかの数式はすべて2025年12月版AI Futures Modelから変更していない。

計算資源・労働時系列の変更

AI Futures Modelは、外生的に与えられる計算資源と労働の予測に依存し、プランA版では2組の時系列を使う。一つはプランAが実施されなかった既定世界を表し、もう一つは協定発効時にそこから分岐する。両者のモデル化については、次の資料で説明している。計算資源補足資料。要約すると、

  1. 2029年以前の既定時系列は、AI Futures Modelよりやや強気の見通しへ更新した。

  2. 2030年から2035年までのプランA時系列は、ロボット技術によって可能になる、制御された大規模な計算資源増強を反映し、その後、2035年から2040年にかけて増強ペースは鈍化する。

制約の一つは、人間の労働力予測があまり現実的でないことであり、AI研究開発の自動化後は、人間の労働がモデルの挙動に及ぼす影響がごく小さいため、この予測にはあまり力を割いていない。

デフォルトパラメータの変更

シナリオの時期とテイクオフを左右する既定パラメータは、シナリオ筆頭著者Thomas Larsenの見解を反映して設定した。ただし、能力予測はAI 2040の主眼ではないため、AI Futures Modelの値ほど入念には検討していない。シナリオ本文とモデルを並行して作成したため、場当たり的に調整した箇所もある。それでも、2026年4月時点のDaniel Kokotajloによる中央値との差はわずかであり、著者全員が既定軌道を十分にあり得るものとみており、以下の表に、Danielの中央値から変更した各パラメータを示す。

パラメータ

変更

根拠

ギャップ年数

2025年換算実効FLOP成長1.1回分

2030年1月にACへ到達するよう設定。

ACに必要な期間(ギャップ前)

10労働年

中央値から最高水準への研究センス係数

5.28倍

ACから約1年後にASIへ到達し、ACとTED-AIの間には約3 OOMの実効計算資源差が残るよう設定した。

AI研究センスの傾き

2025年換算実効FLOP成長1回あたり3.5標準偏差

TED-AIに到達するには、人間の中央値からトップへのジャンプがSARを超える必要がある

1.5

コンソーシアムの軌跡のモデル化

私たちがモデル化している他のすべてのアクターとは異なり、コンソーシアムは決して可能な限り速く高性能なAIを構築しようと競争しているわけではない。具体的な戦略は「能力スケーリング戦略」補足資料で詳述するが、大枠ではTop-Expert-Dominating AI(TED-AI)まで滑らかに能力を拡張しその後、最終的にAIへ制御を委ねる前に、アラインメント研究のため一時停止する。

ここでは、二つの軸に沿って異なる戦略を検討する。

  1. 協定開始から何年後にコンソーシアムが一流専門家を凌駕するAI(TED-AI)へ到達するか、

  2. TED-AI到達時に、どれだけの安全税を負担するかである。

安全税とは、実際のコンソーシアムAIの能力水準と、コンソーシアムが次の条件なら学習できた最良AIの能力水準との差である。学習できたはずの――学習計算資源をすべて使い、既知の最良アルゴリズムで能力学習を行っていた場合に到達できた水準との差である。「安全税を払う」例として、ニューラル言語学習がはるかに効率的だと判明しても、制御を容易にするため採用しない判断が挙げられる。実際のコンソーシアムも、一定の安全税を払おうとすると予想する。

プランAは、一律に減速した知能爆発よりも、高い能力水準で過ごす期間が長い自動コーディングAI 実現した隆起一流専門家を凌駕するAI~40× 実現した隆起2029年:減速させる二つの方法2040年: 権限移譲2035年初頭2030年半ば2034年後半プランA減速合意—管理されたテイクオフ一律減速制御されていない知能爆発が均一に遅くなる20262028203020322034203620382040

コンソーシアムの能力軌道の概形、短い停止、滑らかなスケーリング、権限移譲前の長い準停止と続く。

コンソーシアム軌道は、次の各段階で少しずつ異なる規則に従ってシミュレーションする。

ステージ0:AI学習の停止

この段階は、既定軌道でACが起きるはずだった時点より何年か前に始まる。シナリオでは約9か月前である。実効計算資源は横ばいに固定されるが――学習を停止するためである――期間末にはコンソーシアム内の先行企業がより多くの計算資源を持つため、学習システム性能はなお向上し得る。

AI研究開発は、またもフェーズ0では実質的に停止する。ただし、この期間中、コンソーシアム内の先行主体のソフトウェア効率は所定のOOMだけ向上するとモデル化する。研究の完全な透明性により、フェーズ0の終了時にスケーリングを再開する頃には、企業の知的財産が実質的に公開されているためである。協定前に各社が互いに重ならないソフトウェア上の発見をしていると考えられるため、知的財産を共有すれば最先端のソフトウェア効率は高まる。

ステージ1:制御可能な最大水準までAIをスケーリング

この段階では、実効計算資源が通常の式に従い、実効学習システム性能に応じて増加する。E=TSE^\prime = T \cdot STSPは外生的に与えられるプランA時系列に沿って増加し、所定の時期にTED-AIへ到達するよう、ソフトウェア効率の伸びを慎重に制御する。TSPがOOM単位で増えるごとに、ソフトウェアも最低限進歩しなければならないと仮定する。

各時点で負担する安全税を追跡するため、実際には二つの軌道をシミュレーションする。

  • 一つは、合法プロジェクトが実現可能な能力を表す。この軌道では、一定のソフトウェア進歩率を保ち、TED-AIとプラス目標時点の所定の安全税を合わせた水準へ到達する。

  • 一つは、合法プロジェクトが実現した能力を表す。この軌道では、実現可能な能力がTED-AIと安全税の合計へ達するのと同時に、実際の能力がTED-AIへ達する一定のソフトウェア進歩率を保つ。実現可能な能力がTED-AIと安全税の合計水準へ達する。

各時点で、理論上の最大値より研究努力を抑え、事前に選んだソフトウェア進歩軌道へ最も近づく値を採用する。

ソフトウェア進歩に設ける上限と下限

選択したスケーリング期間とテイクオフ・パラメータが、ある時点で自然に可能な速度を上回るソフトウェア進歩を要求する場合、研究努力をまったく抑制しないこともある。多くの場合、AI能力が十分に高まれば、コンソーシアムは目標とするソフトウェア軌道に追いつける。ただし、停止時の水準からTED-AIまで本来10年かかる世界で1年での到達を目指す場合など、所定の時期までにTED-AIへ到達できないこともある。

逆に、スケーリング期間が十分に長いか、停止時の水準からTED-AIまでの実効計算資源差が十分に小さければ、ハードウェアの増強だけで――必須の最低ソフトウェア成長率を加味して――目標年より前にTED-AIへ到達する場合がある。その場合、コンソーシアムは予定より早くTED-AIへ到達する。

ステージ2:ほぼ停止するまで減速し、最終的にAIへ権限を移譲する

単純化のため、この段階ではコンソーシアムの実際の実現した能力が完全に停止するとモデル化する。実際には、より滑らかに減速した後、制御技術の向上とともに「制御可能な最大AI」の閾値が上がり、能力もごくゆっくり伸び続けると予想する。

コンソーシアムの実現可能なただし、能力の向上は続く。TSPの伸びは鈍化するものの止まらない。ソフトウェア効率については、ステージ2で行われる膨大なアラインメント研究が能力面にもたらす波及効果を表すため、年間OOM単位で一定の進歩率を設定する。たとえば、機械論的解釈可能性の飛躍的な進展はアラインメントに有望である一方、はるかに効率的な学習手法を可能にすることも十分にあり得る。

以来、実現した実際の能力が事実上停止する一方、実現可能な能力が成長し続けると、この期間中に支払われる安全税が大幅に増加する。

実際には、コンソーシアムはいずれAIへ権限を移譲する。シナリオでは、ステージ2開始からおよそ5年後であるが、どの分析も権限移譲後の挙動に大きく依存しないため、現モデルでは権限移譲を明示的に扱っていない。このため、エクスプローラーのコンソーシアム能力線は、権限移譲後に予想される急上昇を示さず、いつまでも横ばいのままである。

秘密プロジェクトのモデル化

AI学習を停止した時点(ステージ0)で、秘密プロジェクトは次の資源を持って開始すると仮定する。

  • 研究開発計算資源の総予算は、先行企業の研究開発計算資源の一定割合とする。秘密プロジェクトは、先行研究機関と同じ比率で学習、実験、内部推論へ配分すると仮定する。

  • 主要な研究所の労働力と同じ割合に等しいエンジニアリング労働力、

  • 協定前の先行企業と同等のAI能力、ソフトウェア効率、研究蓄積。

秘密プロジェクトの計算資源と労働力は、その後も一定と仮定する。さらに、秘密データセンターの建設中は、一定期間にわたり学習も研究開発も始められないと仮定する。

以上の要因だけを考慮すると、秘密プロジェクトの進展はおそらくかなり遅いとモデルは示す。中央値のケースでは、協定開始時の先行研究機関に比べて研究開発計算資源がOOM単位で少なくなるごとに、秘密プロジェクトがTED-AIへ到達するまでの時間は先行研究機関の6倍超になる。

ただし、コンソーシアムAIの進歩が秘密プロジェクトをある程度押し上げるとも仮定する。主因であり、明示的にモデル化する唯一の要因は、コンソーシアムから秘密プロジェクトへソフトウェア改善が漏れることである。これを説明するために、秘密プロジェクトの独自ソフトウェア進捗率に加算されるコンソーシアムのソフトウェア進捗率の割合のパラメータを含める。私たちは、秘密プロジェクトでは、コンソーシアムによって発見されたあらゆるアルゴリズム(潜在的に危険であるとみなされるものであっても)を最大限に利用するだろうと控えめに想定している。実現可能なソフトウェア効率の成長率は、盗む量ではなく、実現したソフトウェア効率の成長率。

ソフトウェアの急増により、コンソーシアムのスケーリング戦略は、秘密プロジェクトの能力に追いつくために非常に重要である。望ましい時期にTED-AIに到達するためにコンソーシアムが行う必要のあるソフトウェアの進歩が少なければ少ないほど、秘密プロジェクトの盛り上がりも少なくなる。その結果、もっと長くソフトウェアの進行が少なくて済むスケーリング期間増加するTED-AI到達時におけるコンソーシアムのETSP上の先行幅を広げ、通常は、増加するコンソーシアムがTED-AIに到達してから、秘密プロジェクトがTED-AIに到達するまでの時間。

協定失効のモデル化

のモデリング協定の失効は比較的単純である。

  • の有効性相互確証計算資源破壊は、失効時に新しい主要プロジェクトが利用できる世界の計算資源の割合で表される。

  • 協定失効後の研究開発用計算資源の増加率もパラメータに含め、破壊を免れた半導体工場と新設工場の生産量を表す。

  • 秘密プロジェクトと同様、人間の研究開発労働力は計算資源に比例して変わると仮定する。現実的ではないかもしれないが、AC後は人間の労働力が及ぼす影響は実質的に無視できる。

  • 失効後の先行プロジェクトは、次の軌道から得たフロンティアモデル重みと、実現したコンソーシアムの軌跡)および発見されたすべてのソフトウェア改善点 (実現可能なコンソーシアムの軌跡)は協定が失効する前からのものである。

協定失効後の先行プロジェクトは、既定軌道と同じく全速力で進むと仮定する。