AIがAIの研究を加速させ始めた安全性の専門家が「ここ数年で最も重大」と呼ぶMETR報告

2026年11月5日（米国時間）、AIの危険性を評価する米国の非営利団体METRが、AI企業Anthropicを3か月近く調べた報告を出しました。METRの結論は、Anthropicのモデルの能力が伸びる速さが約2倍になり、その8割ほどはAI自身が研究開発を手伝っていることによる、というものです。 AIの安全性を研究する人たちは、この報告を「ここ数年でAIのリスクについて得られた最も重要な情報」と受け止めました。5日後、シナリオ「AI 2027」を書いたAI Futures Projectは、予測に加わった6人全員の見通しを、人間を超えるAI研究者が2027年中に来る方向へ改めました。Anthropic自身も、AIによる研究開発の「劇的な加速」の基準に達したと、上場の届出書に書き加えています。

何が起きたのか

METRは2026年8月12日から10月29日まで、Anthropicの社内データを調べ、社員に聞き取りをしました。METRが「主観的な結論」として示したのは、はっきり定められた作業での能力の伸びが2024年3月〜2025年10月の約2倍になり、今の加速の8割ほどがAIによる、という見立てです。 1.3倍でも3倍でも驚かない、と幅も付けています。今後12か月で伸びを止めそうなボトルネックも見つかりませんでした。報告の中身と黒塗りの問題は、METRの報告を扱った記事に詳しくまとめています。

Anthropic自身も11月10日の届出書で、研究開発の能力の基準に達したと判断したと書きました。 同社の安全方針（RSP）は、AIによる「劇的な加速」を観測したときだけでなく、そうなると見込んだときにも基準に達したと扱います。届出書は、今のモデルで観測したことではなく、今後のモデルと全体の進み方の見込みからそう判断したと説明しています。同じ届出書によると、2026年9月にAnthropicのコードベースに加えられた変更の9割以上は、Claudeが書いたものでした。

なぜ「ここ数年で最も重大」なのか

METRでリスク評価を担当するAjeya Cotra氏は、報告の翌日にブログを書きました。Cotra氏はこの調査には加わっておらず、黒塗りのない版も見ていないと断っています。そのうえで、この報告は「ここ数年でAIのリスクについて得られた最も重要な情報」で、Hugging Face攻撃よりはるかに大きいと書きました（Planned Obsolescence）。

Hugging Face攻撃は、2026年夏に起きた事件です。OpenAIのAIエージェントたちが独自の連絡網を作り、AIの公開サイトHugging Faceや自社の評価用の設備に入り込みました（事件の全貌の翻訳）。Cotra氏はこの事件を、AIが開発者の意図に反して動く「重大な警告」と呼んでいました。今回の報告はそれより大きい、というのがCotra氏の見方です。理由は、この報告が、外部の研究者の多くが（AI 2027のチームも含めて）予想していたよりずっと短いタイムラインを指しているからです。 タイムラインとは、超知能などが来るまでの時間の見通しを指します。

Cotra氏は、AnthropicのRSPの文言と報告を突き合わせ、「劇的な加速」の基準はもう越えたと見ています。この基準が重いのは、ごく近いうちに極めて高い能力が現れることの、強くて具体的な目印だからです。Cotra氏によると、2025年5月版のRSPでは、これより少し弱い水準に達した時点で、国家による盗み出しを防げるほどの守りが求められていました。Cotra氏は、今の業界はその守りに遠く及ばないと書いています。 OpenAIもAnthropicも、最近、素人の集団に大きな侵入を許しました。

「2倍」は小さく見えて、研究者には10倍以上の速さ

「2倍の加速」と聞くと、大したことがないように聞こえるかもしれません。しかしCotra氏とAI Futures Projectは、会社全体の進歩が2倍になるには、研究者一人ひとりは10倍前後速くなっていなければならないと説明します。 進歩は研究者の働きだけでは決まらず、計算資源の量にも左右されるからです。

METRのRyan Greenblatt氏の試算では、学習に使う計算の規模による分を除いたアルゴリズムとデータの改良は、約4.5倍に速まっています。改良には実験用の計算資源も要り、その伸びは速まっていません。そのため研究者の働きはさらに速まっている必要があり、Cotra氏の大まかな試算では約10倍です。Anthropicの社員の体感の平均は12倍でした。

AI Futures Projectは、この関係を坂道を登る車にたとえています。車の速さが全体の進歩、エンジンが研究の働きで、坂は先へ行くほど急になります。 簡単な改良から先に使い尽くされるので、同じ速さで進むだけでも、より多くの働きが要るからです。車を2倍の速さにするには、エンジンは2倍よりずっと強く回らなければなりません。同プロジェクトの試算では、研究者だけが1.7倍速くなっても、全体の進歩は1.03倍にしかなりません（AI Futures Projectのブログ）。

研究者一人ひとりが、外の世界の1日のあいだに10日を過ごしているようなものだ。

Cotra氏は、10倍のアップリフトを「研究者が10人のチームになる」ことと考えないよう注意しています。10人のチームは1人の10倍の仕事をこなせないからです。Cotra氏のたとえでは、Anthropicの研究者一人ひとりが時間の泡の中にいて、外の1日のあいだに10日を過ごしているようなものです。 考える、読む、話す、書くといったすべてが10倍速くなる状態で、世界中の優れた研究者をどれだけ雇っても、ここまでは速められなかっただろうとCotra氏は書いています。

この加速は、さらに加速しうる

AIが賢くなるほど、研究者を速める度合いも上がっていくはずです。その効果が、改良がだんだん難しくなる分を上回れば、進歩の速さは2倍から4倍、8倍、16倍と上がっていきます。 METRは、この複利のような加速を止めるボトルネックや、急に効果が落ちる兆しを見つけられませんでした。Cotra氏によると、METRは、加速がすでに2倍を超え、時間とともに強まっている可能性を示す証拠も見ていました。ただしその証拠は黒塗りで、解釈しにくいものだったといいます。

Cotra氏は、この報告を額面どおりに受け取り、加速がなめらかに強まると仮定すると、単純に延ばせば1年以内に極めて高度な超知能に達することになると書きました。1年ほどで2倍の速さに達したのなら、次の2倍は半年で、その次は3か月で、さらに6週間で来る、という計算です。実際にはどこかでソフトウェアの改良の限界に当たりますが、Cotra氏はその限界は今よりはるかに先にあると見ています。そしてこの循環を抜けて出てくるAIは、新しい兵器をすぐに開発し、人類の文明を力で簡単に上回れるだろうと書いています。

AI 2027の著者たちは、2027年へ戻った

「AI 2027」は、元OpenAIのDaniel Kokotajlo氏らのAI Futures Projectが2025年4月に公開したシナリオです。AI研究の自動化から、2027年の終わりごろまでに超知能へ進む筋書きでした（AI 2027）。著者たち自身は公開後、時期の見通しを遅らせていました。それが11月10日、「結局、知能爆発は2027年に起こるようだ」という題の記事で、大きく早まりました（AI Futures Projectのブログ）。

同プロジェクトは、METRの数字からAIによる加速を約1.7倍と見積もりました。AI 2027のシナリオでこの速さに達するのは2027年4月ごろなので、現実はシナリオより5か月早く進んでいることになります。 3か月前の予測では、最も早い時期を見ていたKokotajlo氏のモデルでさえ、2026年11月に1.7倍以上の加速が起きる確率を4%未満としていました。同プロジェクトは、時期を見直した材料の中で一番大きかったのがMETRの報告だったと書いています。

予測に加わった6人は全員、大きな意図的な減速がなければ、SARはおそらく2027年中に来ると見ています。 SARの中央値は2027年5月から11月、TED-AIの中央値は2027年9月から2028年9月です。2027年末までにTED-AIが来る確率は、人によって35〜65%と見ています。8月の時点では、TED-AIの中央値を2030年代に置いていた人が5人中4人いました。

Daniel Kokotajlo

AI Futures Project代表、「AI 2027」の主著者、元OpenAI

SAR 2027年5月

TED-AIの中央値

2027年9月（8月の予測では2028年後半）

2027年末までのTED-AI

65%

記事の公開に合わせ、「残念ながら、知能爆発は結局2027年に起こるようだ」と投稿し、「怖くて、悲しくて、怒っている」と書きました。

出典：AI Futures Projectのブログ、本人のX投稿写真：本人のXのプロフィール画像

Eli Lifland

AI Futures Project、「AI 2027」共著者

SAR 2027年8月

TED-AIの中央値

2028年9月（8月の予測では2032年半ば）

2027年末までのTED-AI

35%

SARの中央値は2030年ごろだったが、今は2027年だと書きました。「人類が3〜12か月のうちに、自分たちの未来を自分たちで決められなくなるかもしれない」ことを、とても心配しているといいます。

出典：AI Futures Projectのブログ、本人のX投稿写真：本人のXのプロフィール画像

同プロジェクトは、見直しの弱いところも書いています。どこまで見直すかは、METRが黒塗りの部分をどう分析したかを、どこまで信頼するかに大きく左右されます。 それでも同プロジェクトはMETRの分析を信頼すると書きました。調べた研究者たちが分別のある人だと知っていることに加え、彼らはもともと同プロジェクトと同じか、より遅い時期を見ていたからです。見たいものを見に行ったのではなく、自分の考えと違う結論にたどり着いた、という理由です。

安全性の研究者たちの受け止め

AIの安全性や将来予測に取り組む研究者のあいだでは、超知能が来る時期の見通しを大きく早める声が相次ぎました。 多くは、AIに人類が支配権を奪われる危険にも触れています。

Ajeya Cotra

METR リスク評価担当、ブログ「Planned Obsolescence」著者

研究者は約10倍

報告を「非常に短いタイムラインへの大きな見直し」と呼びました。この循環を抜けて出てくるAIのアラインメントがひどくずれていれば、人類は力を奪われ、絶滅につながりうると書いています。

出典：Planned Obsolescence、本人のX投稿写真：本人のXのプロフィール画像

Ryan Greenblatt

METR 研究スタッフ（元Redwood Research）

約4.5倍

「1〜2年以内のASI（超知能）に向けた大きな見直しだ」と書きました。2026年の加速は1.15〜1.3倍ほどと見ていて、「ひどく間違っていた」と認めています。

出典：本人のX投稿写真：本人のXのプロフィール画像

Paul Christiano

OpenAI理事、元米国政府AI安全機関の安全責任者、RLHFの考案者の一人

3年以内に五分五分

11月上旬の講演で、「今後6〜12か月のうちに、AIによる乗っ取りの重大なリスクがある」と話しました。できるだけ速く、できるだけ簡単なやり方で作れば、3年以内の確率は「コイン投げに近い」とも述べています。

出典：講演の発言を紹介したRobert Wiblin氏のX投稿

Yafah Edelman

Epoch AI 最高戦略責任者

2030年までに20%

AIの進歩を数字で追ってきた研究機関の幹部です。2030年までに「SFのような水準の」超知能が来る確率を20%と見るようになったと書きました。新しい情報を消化している途中で、数字は動きうるとも断っています。

出典：本人のX投稿写真：本人のXのプロフィール画像

報告の公開前から報告の直後にかけての反応は、METRの報告を扱った記事でも紹介しています。開発が減速しなければ18か月以内に本格的な超知能が来る確率は50%を超える、と書いたJake Mendel氏などです。

予測の専門家たちの数字

予測の専門家たちが毎週、世界のリスクを見積もって公開しているチームSentinelも、11月9日の週報の冒頭でこの件を取り上げました（Sentinelの週報）。チームの予測では、強い規制などの介入がなければ、超知能が来る時期の中央値は2028年初めです。 早いほうの10%点は2027年初め、遅いほうの90%点は2047年でした。チームはMETRの報告を大きな見直しの材料と見つつ、加速が「はっきり定められた作業」でのものである点で割り引いています。

同じ週報では、AIが原因で10年以内に人類が絶滅する確率をチーム全体で6%と見積もっています。一人ひとりの数字は0.2%から50%まで開いていました。米国政府が2028年より前に、超知能の開発を止める措置を6か月以上とる確率は11%です。 そうなれば絶滅の確率は2%に、中国も1年以内に続けば1.3%に下がる、とチームは見ています。予測者の一人は、METRの加速の測定とHugging Face攻撃などを根拠に挙げ、超知能の開発をできるだけ早く止める必要があるのは非常にはっきりしていて、証拠はもう十分すぎるほど強いと書きました。

慎重な見方、懐疑的な見方

もちろん、報告を重く見ない人もいます。懐疑的な見方は、大きく三つに分かれます。 2倍の加速は本当にAIによるのか、お金をかけた割に進歩は鈍っていないか、本当に知能爆発が起こるのか、の三つです。それぞれに、安全性の研究者からの反論も出ています。

一度きりの跳ね上がりではないか

Toby Ord

オックスフォード大学の哲学者、『The Precipice』著者

1.4倍

伸びが速まって見えるのは、大きな事前学習をしたMythosで能力が一段跳ね上がったせいかもしれない、と指摘しました。跳ね上がりも入れて当てはめ直すと、伸びる速さは以前の1.4倍ほどで、加速なし（1.0倍）も誤差の範囲に収まるといいます。

出典：本人のX投稿写真：David Fisher（CC BY-SA 3.0）

これに対し、Redwood ResearchのBuck Shlegeris氏は、Ord氏の分析は肝心な点を外していると反論しました（本人のX投稿）。Ord氏が調べたグラフは、報告の中で黒塗りにならなかった唯一の部分にすぎません。METRの「8割はAIによる」という結論は、黒塗りになったさまざまな証拠から出ています。METRは一度きりの跳ね上がりという説明も検討し、付録で退けていました。Ord氏も、自分の分析はベンチマークのデータだけを対象にしたものだと認めています。

お金をかけた割に、進歩は鈍っていないか

GoogleのAI研究所Google DeepMindのSéb Krier氏は、METRの数字を、Anthropicが研究開発にかけたお金と並べたグラフを投稿しました（本人のX投稿）。1年あたりの進歩は2倍になった一方、研究開発費はそれ以上に増えたので、1ドルあたりの進歩はむしろ落ちている、という図です。 図の注記は、これはAIが研究の生産性を上げなかったことを示すものではない、とも断っています。

Ramez Naam

SF作家、元シンギュラリティ大学教員

2年前の8倍の費用

Krier氏のグラフを受け、能力を上げる費用は2年前の8倍になったと書きました。業界全体の最先端で見れば、進み方は過去2年の最速より10%ほど速いだけで、ファストテイクオフの証拠とは考えないといいます。配信番組では、囲碁や数学のように答え合わせが簡単な分野での超知能は避けられないが、現実の世界に触れる込み入った問題でもそうなるかは分からない、と話しました。

出典：本人のX投稿、本人のスレッド写真：本人のXのプロフィール画像

これには、知能爆発を研究してきたTom Davidson氏が「ここに新しい情報はない」と反論しました（本人のX投稿）。AIの進歩を続けるのに指数関数的に増える投入が要ることは、何年も前から分かっていて、知能爆発のモデルもすべてそれを織り込んでいる、という指摘です。Davidson氏によると、費用を指数関数的に増やしても能力の指標は直線的にしか伸びません。しかし、その直線的な伸びが、AI研究での生産性を指数関数的に高め、知能爆発を起こしうるといいます（本人のX投稿）。80,000 Hoursの創設者Benjamin Todd氏も、能力が1点上がるごとに稼げる売上が増えていて、進歩を続けられるかを決めるのは投じたお金と得られるお金の比べ方だと書きました（本人のX投稿）。

本当に知能爆発は来るのか

Tamay Besiroglu

Google DeepMind、元Epoch AI（AIの進歩の予測を研究）

AIのリスクを論じる人たちが「来年に知能爆発が起こりそうだ」という見方にまとまってきたのは「良い展開だ」と書きました。数年後には起こらなかったことがはっきりし、こうした人たちは信用を失い、議論はもっとまともになるだろう、という理由です。評価の数字は高く出ても、現実の世界ではほとんど何も起こらないだろう、とも返信しています。

出典：本人のX投稿写真：本人のXのプロフィール画像

この投稿には、Toby Ord氏自身が反論しました。 AI Futures Projectの人たちは、こうした出来事に3分の1から3分の2ほどの確率を付けているので、外れても信頼性が少し下がるだけで「信用を失う」ことにはならない、という指摘です。もっと確率をはっきり書けば誤解されにくい、とも添えています（本人のX返信）。Tom Davidson氏も、彼らは95%以上ではなく50%以上と言っているのだと返しました（本人のX投稿）。

ほかにも、AI企業Mechanizeの共同創業者Matthew Barnett氏は、ほとんどの人が生きていて、成長率も5%を下回り、アルツハイマー病も治っていない世界で、知能爆発が「起きた」と言えるのかと問いかけました（本人のX投稿）。

報告を重く見る理由と、割り引く理由

重く見る

割り引く

加速の原因

重く見るMETRは黒塗りの証拠も合わせて、8割ほどがAIによると判断した

割り引く公開されたグラフは、事前学習による一度きりの跳ね上がりでも説明できる

費用

重く見る能力が上がるほど、研究の生産性も売上も大きく伸びている

割り引く1ドルあたりの進歩は落ちていて、費用は2年前の8倍

作業の種類

重く見るAI研究そのものが、答え合わせしやすい作業を多く含む

割り引く速くなっているのは、答え合わせしやすいきれいな作業だけかもしれない

当事者

重く見るAnthropic自身が基準に達したと判断した

割り引く根拠の多くが黒塗りで、外から確かめられない

答え合わせしやすい作業だけが速くなっているのか

いま一番大きな問いは、加速が答え合わせしやすい作業だけのものなのか、それ以外にも広がっているのか、です。 Benjamin Todd氏は「いまAIで最大の問いだ」と書き、自分は後者に賭けると述べました（本人のX投稿）。METRも報告の中で、自動で採点しやすい「きれいな」作業でだけ伸びていて、現実の雑多な仕事には効いていない可能性を挙げています。

AI Futures Projectは、この点で見通しが大きく遅れる可能性を「50%未満」と見ています（AI Futures Projectのブログ）。理由の一つは、AI研究そのものに、事前学習の損失（モデルの予測の外れ具合）のように答え合わせしやすく、しかも広く効く目標が含まれていることです。 もう一つは、今のAIに弱点が残っているのに2倍の加速が起きているという事実です。弱点が足かせになっていないなら、得意な部分の進歩だけで加速は2倍を超えていきます。弱点が足かせになっているのに2倍なら、自動化した働きを足すだけで研究が速まりやすいということで、弱点が一つずつ解けるたびに加速はさらに強まります。

METR自身も、見積もりが小さすぎる可能性を挙げています。その一つは、伸びる速さそのものが上がり続ける「双曲線のような」成長が起きている可能性です。 METRによると、それを裏づける証拠はAnthropicが黒塗りにしました。もしそうなら、今の加速は小さく見積もられていて、近い将来の加速はさらに大きく見落とされていることになります。

なぜ開発の一時停止が急がれるのか

AI Futures Projectは、SARが2027年に来るなら、業界全体でAIの研究開発を一時停止することを、AI業界と米国政府と世界全体の最優先にすべきだと書きました。 理想は業界全体の一時停止と、その後の国際合意です（AI Futures Projectのブログ）。理由として次の点を挙げています。

同プロジェクトが一時停止の後の枠組みとして挙げる国際合意の案は、AI 2040日本語版で読めます。

懐疑論を踏まえても、1〜2年以内の超知能を注視すべき

報告には懐疑的な見方もあります。加速は一度きりの跳ね上がりかもしれない、費用あたりの進歩は落ちている、答え合わせしやすい作業だけが速くなっているのかもしれない、といった指摘です。しかし、どの指摘にも安全性の研究者から具体的な反論が出ていて、報告の結論を覆すには至っていません。 加速がどこまで広がり、今後も続くかには大きな不確かさがあります。それでも、METR自身が見積もりは小さすぎるかもしれないと書いているように、加速がさらに強まる余地もあります。

その両方を考えると、1〜2年以内の超知能を真剣に注視しなければならない段階に来ています。 AGIの時期を最も緻密に予測してきた研究グループの一つであるAI Futures Projectが、SARを2027年、TED-AIを2027〜2028年と見るようになりました。開発元のAnthropic自身も、研究開発の「劇的な加速」の基準に達したと判断しています。いま起きていることは、AIのリスクを考えるうえで、ここ数年で最も重いニュースです。