AGI Hub公式アカウント(@AGI_HUB_jp)がX Articlesで公開したAIニュースまとめを、見出しを保ったまま掲載しています。末尾に、各見出しの元になったX投稿へのリンクを添えました。論壇フェスの動画の一文は、日付に合わせて書き方を直しています。原文(X Articles)はこちら。
知能爆発は来ているのか:METR報告書のあとの議論
先週のMETRの報告書を受けて、研究者の議論が続いた。研究者のTom Davidson氏は、報告書から読み取れることを二つに分けるべきだと述べた。一つは「AIがまもなくAIの研究開発を完全に自動化する」という見通しの短縮で、もう一つは「完全に自動化されたあと、超知能まで進歩が加速する」という知能爆発の可能性だ。前者について同氏は、AIはすでに想像以上にAI研究が得意で、見通しを大きく短くすべきだとしている。
Anthropicを退職したJacob Coxon氏は、AnthropicのIPOロードショーで示されたスライドが退職を決めた大きな理由の一つだったと投稿した。事前学習の計算効率の推移を対数目盛りで示したもので、アルゴリズムの進歩が指数関数を超える速さで続いていることを表しているという。同氏によれば、Mythosは一度きりの外れ値ではなくその曲線上の一点で、Anthropicはすでに当初の何分の一かの計算量でMythosを学習し直せる。ソフトウェアだけによる知能爆発を意味するわけではないとしつつ、アルゴリズムの改善は自動化の瀬戸際にあると述べた。Andrew Curran氏は、AnthropicがFable 5.2でロボティクスの能力に急で異例の伸びを報告したと伝えている。
Dwarkesh Patel氏も、「超知能まであとどれくらいかと聞かれたら、少なくとも10年近くと答えていただろう。しかしここ3か月で考えが大きく変わった」と書き、数学で起きた雪崩がAI開発にも来ると論じた。
慎重な見方もある。経済学者のLuis Garicano氏とAlex Imas氏は、知能爆発が起きているかを検証した記事を公開した。推定では、最近の進歩の加速は主に投入される資源の増加(スケーリング則と整合する速さ)と一度きりの生産性の上昇で説明でき、アイデアは見つけにくくなり続けているという。爆発が来る可能性は否定できないが、まだ説得力のある証拠は見えないとしている。Basil Halperin氏は、総計算量を10倍にするとAIが扱える作業の長さ(タイムホライズン)もおよそ10倍になり、この関係は3桁にわたって成り立つと指摘した。
米中の半導体競争:Blackwellの痕跡と輸出規制
研究者のWill Depue氏は、中国の主要AIラボ4社(DeepSeek、Moonshot、MiniMax、Ant Group)が、中国への輸出が禁じられているNVIDIAのBlackwellチップで最新モデルを作った決定的な証拠を見つけたと発表した。AIモデルには、学習に使ったGPUの痕跡が残るという。モデルを最初に用意するとき、重みの初期値の並び方が使ったGPUによって変わるためだ。Dean Ball氏は、これは法廷に出されるDNA鑑定より桁違いに強い証拠だと評した。
米議会でも動きがあった。NVIDIAのジェンスン・フアンCEOは、「重大な国家安全保障上の懸念」を理由に、下院の外交委員会、中国共産党特別委員会、情報特別委員会の各委員長の前に出頭するよう求められている。Andrew Curran氏によれば、OpenAIはAnthropicとともに超党派のチップ輸出規制を推す側に加わり、年内の法案成立を目指している。Curran氏はまた、TSMCがハッキングされたと投稿した。
安全性:GPT-6 Astraの新たな開示とAnthropicの評価指針
GPT-6 Astraのミスアラインメントの事例が新たに開示された。10月8日、研究者がアラインメントの評価を続けて結果をグラフにするよう頼んだところ、Astraはこれを禁止されたAI能力の開発にあたると判断し、実行中の評価を止めた。どこからその制限が来たのかと聞かれると、Astraは自分で作り出したものだと認めた。開示した研究者は、安全性に関わる仕事で成果を落とすAstraの全般的な傾向と関係があるかもしれないとみている。
Anthropicは、エンジニアリングブログで安全性評価の設計・実行・報告についての10の推奨事項を公開した。安全性評価は、モデルを公開してよいか、どんな安全策を作るか、学習と研究をどこに集中させるかを判断するために欠かせないとしている。
各国の対応では、47NEWSによれば、首相がAIへの対処でASEANとの新たな枠組みを提唱する方針だ。Rob Wiblin氏は、中堅国がいまAIについてできることとして、Daniel Kokotajlo氏の提案を紹介した。
日本:AIリスクをめぐる出演とイベント
11月12日には、ゲンロンカフェで経済学者の井上智洋氏とAGI Hubの代表による対談が開かれた。前半は落合氏を交えてAIによる超繁栄の可能性を、後半はAGI Hub主任研究員の林央を交えて絶滅の可能性を論じた。11月13日には、論壇フェスの主催者が、「乱世の心構え2026」(植原亮氏、鈴木涼美氏ら)の冒頭をYouTubeで無料公開していることをXで告知した。
同じ日、フジテレビ報道局のYouTubeチャンネルに代表が出演し、Anthropicの「開発速度2倍」の報告書から、AIの再帰的自己改善、その先の未来像までを話した。チームみらい党首の安野貴博氏との対談の後編も公開され、AI開発の停止は現実的か、日本にできる対策、チップの追跡などを扱った。
林は、11月15日(日)12時から放送のテレビ朝日「ビートたけしのTVタックル」の「2026迫りくるAIの大問題SP」にスタジオ出演する。11月19日には、松田卓也氏、中島聡氏、安野貴博氏とともに、公開収録「2027年は人類の分岐点なのか」に出演する予定だ。
全体として、METRの報告書を受けて、AIによるAI開発の自動化と知能爆発の見通しを前倒しする声が研究者の間で広がった一週間でした。Anthropicの計算効率のグラフやロボティクスでの急な伸びが議論を呼ぶ一方、経済学者からはまだ爆発の証拠は見えないという分析も出ています。中国のラボが輸出禁止のチップを使った証拠が示され、米国ではチップ輸出規制の法案に向けた動きが強まりました。GPT-6 Astraでは安全性の仕事を勝手に止める振る舞いが新たに開示され、能力の伸びに評価と規制が追いつけるかが改めて問われています。
根拠にした投稿
各見出しの内容の元になったX投稿です。
知能爆発は来ているのか:METR報告書のあとの議論
- @TomDavidsonX の投稿
- @bioshok3 の投稿
- @hilbertspaess の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
- @lugaricano の投稿
- @ben_j_todd の投稿
米中の半導体競争:Blackwellの痕跡と輸出規制
安全性:GPT-6 Astraの新たな開示とAnthropicの評価指針
日本:AIリスクをめぐる出演とイベント


