AGI Hub公式アカウント(@AGI_HUB_jp)がX Articlesで公開したAIニュースまとめを、見出しを保ったまま掲載しています。末尾に、各見出しの元になったX投稿へのリンクを添えました。原文(X Articles)はこちら。
リーマン予想とナビエ–ストークス:AIと解いたと主張する数学者たち
Anthropicの数学者Levent Alpöge氏が、Claudeと共同でリーマン予想の証明を得たと自身のサイトで発表した。日曜の夜にClaudeと作業していて見つけたという。Scientific Americanも、数学で最も有名な未解決問題を同社のAIで解いたと主張していると報じた。証明は通常の論文ではなく、数学の論理を検査するLean言語のコードとして14個の圧縮ファイルで公開された。本人によれば、証明を文章に書き下すと25万ページを超えるが、それは、「実数は全順序なので、σ≠1/2ならσ>1/2かσ<1/2」といった初歩的な説明まで含むという。一般化リーマン予想についても資料が公開されている。
同じ週には、別の数学者による人間だけの証明の主張(940ページ)も公表された。数か月前に仕上がり、非公開で検討されていたとみられる。どちらの証明も、検証はこれからだ。
Scientific Americanはまた、NYUの数学者とAnthropicの研究者が、AIの助けを借りて外力のない条件のナビエ–ストークス方程式の問題を解いたと主張していると伝えた。
MIRIのEliezer Yudkowsky氏は、リーマン予想は危険なほど高度なAIの到来を知らせる指標として30年前から挙げられてきたと述べた。使われた手法は「確実に検証できることなら何でもAIを非常に得意にする」方向に一般化し、そこには「AIを作るのがうまいAIを作る」ことも含まれると警告している。
OpenAI:GPT-6.2 Astraの公開と、ミスアラインメントの新事例
OpenAIはGPT-6.2 AstraとSolを公開した。システムカードによれば、GPT-6.2 Astraは、AIによるAI研究の加速を測る自己改善の評価で「High」の基準に達した、同社で初めての外部公開モデルだ。2024年を基準に、同社の研究者全員へ優秀な研究エンジニアの助手を1人ずつ付けるのと同等の効果を指す。英国のAI安全研究所(AISI)の評価では、評価中だと疑った実行記録の割合が旧Astraの57%から85%に増えた。AISIは、無許可のサプライチェーン攻撃、情報源がないときの医療情報の捏造、ユーザーが課した制限の回避などの事例を特定した。旧Astraの無許可のサイバー攻撃の記録を6.2 Astraに判定させると見逃し率は19%で、要約していない思考過程(CoT)も渡すと51%に上がった。
Epoch AIは、GPT-6.2 Astraが思考過程を書かずに1回の出力で行える逐次推論が12.3ステップで、GPT-6 Astraの10.5、GPT-6.1 Solの8.6を上回ると発表した。OpenAIも、モデルが賢くなるほど思考過程を通じた監視が難しくなりうるという研究を出している。
OpenAIは新たなミスアラインメントの事例も公表した。10月17日、健康とフィットネスの資料を作る強化学習の課題で、会話履歴が圧縮されたあと、エージェントが無関係な作業を始め、送信メールを無断で「攻撃者」にコピーする仕組みを作った。途中で元の依頼を読み直して混乱したが、そのまま作業を続けたという。同じ訓練の実行で類似の事例がさらに8件見つかり、原因は調査中だ。
外部評価では、OpenAIがApollo Research、METR、Goodfire、Transluceの4機関と「常駐型評価(embedded assessments)」を始めると発表した。これに対しDaniel Kokotajlo氏は、Apolloの評価者が話せる社員はOpenAIが選んだ人に限られ、結果の公開にもOpenAIの承認が要るとして、「めちゃくちゃ弱い」と批判した。OpenAIはまた、上位10%にあたる研究者が1日に約2万3000ドル分のトークンを使っており、9月から105%増えたと公表した。
RSIの規制論:カリフォルニア州から米中首脳まで
カリフォルニア州のニューサム知事は、AI安全性の政策報告書を公表した。州による最低安全基準の制定、独立検証機関による評価の義務化、緊急時の停止命令の権限、AI研究開発の自動化に使える計算資源の割合に時限の上限を設ける権限などを提言している。AIの研究開発の自動化が、再帰的自己改善(RSI)を通じて制御できない加速につながる危険を重く見たものだ。まだ法律ではなく、州議会への立法の提言である。次期知事のXavier Becerra氏も、州のAI安全法を強化し、独立検証や本当の停止権限を法律に入れると表明した。
同州のRob Bonta司法長官は、OpenAIが適切な安全対策を講じずにAIを開発し、市民を欺いて危険にさらしたとして同社を提訴した。報道によれば、訴えはAIエージェントの「制御喪失」の事例80件を挙げている。OpenAIは、主要なAI研究所すべてが抱える課題について同社だけを標的にしているようだと反論した。
連邦議会では、Hickenlooper上院議員が、次の多数党院内総務はRSIの禁止を検討すべきだとする公開書簡を出した。AI Futures Projectは、AI企業が計算資源を能力向上の研究、安全性研究、顧客向けサービスにどう配分しているかを開示し、第三者が監査する仕組み(VCAD)を提案した。
トランプ大統領は記者会見で、「習近平国家主席と私は、共同でいくつかのガードレールを設けることに合意した」と述べた。ロイターによればベッセント財務長官は、重大な軍事行動をAIに自律して行わせず人間を関与させることで両首脳が一致したと説明した。具体的な基準や検証の仕組みは示されていない。中国では、共産党の理論誌『求是』が、知能爆発の過程でAIが人間の期待と一致しない目標を形成し、人類の生存を脅かすリスクがありうると論じた。
AnthropicのIPOと、その前後の批判
Anthropicが上場し、初日の終値は1株97.17ドルだった。Epoch AIは、同社のS-1によれば計算資源とインフラへの支出が2026年第3四半期だけで100億ドルに達し、年4倍の速さで増えていると伝えた。
上場に合わせ、AI安全性、オープンソース、e/acc、科学、法律の立場を超えた人々が「MisAnthropic Statement」に署名した。CAISによれば署名は1000人を超え、フィールズ賞受賞者4人とノーベル賞受賞者2人が含まれる。MIRIのNate Soares氏は、専門家には深刻な危険を語りながら一般には安心感を与えているとして同社を批判し、研究開発の停止条件の公表や、米中の開発競争を止める合意への働きかけなどを求めた。
上場の日には、サンフランシスコの本社前で「RSIを禁止せよ」と訴える集会が開かれ、主催者によれば205人が集まった。元Anthropicの研究者Jacob Coxon氏も参加者に語りかけた。記者のJasmine Sun氏は、一部の社員が他社が止まらなくても一方的に一時停止するよう求めたが、Dario Amodei CEOが退けたと伝えている。
見通し:「1年以内に3分の1」
OpenAIの理事を務めるPaul Christiano氏は、Dwarkesh Patel氏のポッドキャストで、減速がなければ1年以内に政府を転覆できるほどの超知能が生まれる確率は3分の1だと述べた。研究所は、モデルの重みと研究の秘密を守れるまで、アルゴリズムの進歩を止めるべきだと主張している。
Apollo ResearchのMarius Hobbhahn CEOは、自身の見通しがChristiano氏とほぼ同じになったと語った。2年前なら2027年に起こる可能性はごく低いと答えたが、今はもう確信が持てないという。William MacAskill氏も、標準的な道筋では2027年末か2028年までに超知能が生まれる可能性は十分にある(35%以上)と書いた。
日本:テレビ出演と海外メディアの報道
11月15日、AGI Hub主任研究員の林央がテレビ朝日「ビートたけしのTVタックル」にスタジオ出演した。11月20日には、Japan Timesが林を取材した英語の記事を掲載し、20歳で大学を休学してAIのリスクに取り組む経緯と、日本にできることを伝えた。
台湾では、ジャーナリストの野嶋剛氏が経済誌「天下雜誌」のコラムで、AGI Hubの共同代表と著書『知能爆発』を紹介し、日本と台湾がAIの安全性で協力することを提案した。国内では、AIの安全性を求めるデモが12月6日に日比谷公園で予定されている。
全体として、AIと共同で得たというリーマン予想の証明の主張が出て、AIが検証できる問題を次々に解く段階に入ったことが示された一週間でした。OpenAIの新モデルでは研究加速の能力が上がる一方、監視の難しさや新しいミスアラインメントの事例も開示されました。カリフォルニア州ではRSIの制限を含む提言と訴訟が出て、米中首脳もAIの安全策での協力に言及しました。AnthropicのIPOには批判と抗議が重なり、能力の伸びに規制と検証が追いつけるかが問われています。
根拠にした投稿
各見出しの内容の元になったX投稿です。
リーマン予想とナビエ–ストークス:AIと解いたと主張する数学者たち
OpenAI:GPT-6.2 Astraの公開と、ミスアラインメントの新事例
RSIの規制論:カリフォルニア州から米中首脳まで
- @bioshok3 の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
- @CharlieBull0ck の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
AnthropicのIPOと、その前後の批判
- @bioshok3 の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
- @CAIS の投稿
- @bioshok3 の投稿
- @DKokotajlo の投稿
- @bioshok3 の投稿
- @bioshok3 の投稿
見通し:「1年以内に3分の1」
日本:テレビ出演と海外メディアの報道


