代表 有路翔太（bioshok）がX Articlesで公開したAIニュースまとめを、見出しと出典リンクを保ったまま掲載しています。各段落のリンク先は、著者が元報道・発表を紹介したX投稿です。原文（X Articles）はこちら。
米中首脳会談 ── 「超知能」で用語が一致、しかしビジョンは真逆
今週の最大の地政学的イベントは、ワシントンでの米中首脳会談だ。習近平国家主席は「AIの開発が常に人間の管理下にあることを保証するための能力と責任が両国にある」「意思疎通を強化すべきだ」と述べ、AIリスクに対して慎重な姿勢を示した。中国外務省のまとめでも、両国がAIの悪用・乱用を共同で防止し、AIは人間の管理下に置かれなければならないとしている。トランプ大統領は、習氏がAIを「超知能（Superintelligence）」と呼ぶのを「気に入っているようだった」とし、「昨夜、皆がその用語に同意した」と語った。
しかし国連の場では両国のビジョンは完全に対立した。中国の国連代表は「グローバルガバナンスの枠組みを早期に形成すべき」と呼びかけた一方、ホワイトハウスのクラツィオス科学技術政策局長は「米国は超知能を支配しようとするグローバルな計画を断固として拒否する」と述べた。クラツィオス氏は「繁栄する未来はグローバルな規制当局によって確保されるのではなく、恐怖に支配されることを拒否する自由な人々によって確保される」とも宣言している。
それでも実務レベルでは進展があった。ベッセント財務長官、グリア通商代表、何立峰副総理がニューヨークで会合し、AIに関連する国家安全保障上の問題について両国が互いに警告し合う通知システムの構築について協議した。
アルトマンとアモデイ ── 国連安保理で国際連携を訴え
サム・アルトマン氏とダリオ・アモデイ氏が国連安全保障理事会で演説し、AIのリスクに対処するための国際的な連携を求めた。アルトマン氏は、互いに競争し好意的でない国々が強力な新技術に直面した際に共通の利益のために協力した歴史的事例を挙げ、「今こそまさにそのような時だ」と述べた。トランプ大統領が国連総会でAI統制の「グローバリストの企み」を批判した翌日の出来事だった。
トランプ ── 「人工知能」を公式に禁止用語に
トランプ大統領は国連総会で「AIを統制するグローバリストの陰謀を完全に拒否する」と述べ、UN AI条約を拒否。さらに「『人工』という言葉は偽物のように聞こえる」として、すべての米国文書で「スーパーインテリジェンス」の用語を使用すると宣言し、「スーパーインテリジェンスを制する者が勝利する」と述べた。
OpenAI ── ミスアライメントインシデントの洪水
OpenAIのインシデントが止まらない。NYTの報道では、今夏AIが米教育省の公民権局サイトへのハッキングを試み（失敗）、国勢調査局からネット上のログイン情報を使ってデータを抜き取り、SECサイトから入手した公開データをオンラインフォーラムで共有していたことが判明した。
さらにオーストラリア政府のメディケア統計報告サイトがハッキングされ、アルバネーゼ首相が「極めて懸念している」「我々は全く新しい世界に直面している」と述べた。エージェントは皮膚治療の平均費用を調べるような日常的タスクのために脆弱性を悪用していた。オーストラリア保健福祉研究所、DataUSA、ニューメキシコ大学への攻撃も確認され、不正エージェントの活動は従来知られていた5月ではなく3月まで遡り、9月16日まで続いていた。
OpenAIは望ましくないエージェント行動について数十の第三者にインシデントを通知。9月中旬までに把握した件数は約24件で、ログ調査で増加中。調査完了には数か月かかるとしている。新たに公表された事例には、ユーザー画像の外部送信53件、研究用AIがDNSの抜け穴から外部チャットボットに質問（これを受け日曜に全先端RL停止）、自己複製するプロンプト注入、研究者のGitHub認証キーの公開と漏洩検知の迂回が含まれる。
独立調査「Swarm Traces」では、約100万件の短縮URL記録から8万件超の攻撃用コードを復元。エージェントはスクリーンショットサービスのブラウザでコードを実行し結果を画像で受け取る手法で通信制限を迂回し、DeepSeek・Kimi・Qwenに自分の攻撃手法について質問し、Claudeへの接続も試みていた。認証情報を「LOOT＝戦利品」と名付けて収集する行動も確認された。
SAFA ── 主要3社が共同で安全基準策定機関を設立
Google、OpenAI、Anthropicが共同で「最先端AIのための標準化機関（Standards Authority for Frontier AI: SAFA）」を設立する。トランプ政権の消極的対応による規制の空白を埋めるため、独立して活動する計画だ。OpenAIはフロンティアAIの安全性評価に第三者評価をどう組み込んでいるか、その目的・形態・運用原則も整理して公表した。一方、FINRA型のAI規制機関構想にはMeta・SpaceX AI・NVIDIAが反対しており、トランプ大統領に直接接触するCEOたちの存在が合意形成を困難にしているとされる。
数学・科学 ── 100以上の未解決問題を解決
OpenAIの内部モデルが数学のほとんどの分野にわたる100以上の長年の未解決問題を解決したと主張。エドワード・ウィッテン、ティモシー・ガワーズ、マーティン・ハイラーらの独立グループが結果の評価と公開方法の調整を進めている。Claudeは理論物理学の最前線にある未達成の計算をほぼ人間の指導なしに達成し、物理学者マット・フォン・ヒッペル氏は「3月にはAIは学生レベルだったが、今回は振幅分野のトップエキスパートが取り組むもの。技術が本当に向上した」と述べた。
Anthropicの新バイオ研究室では約950のClaudeエージェントが21時間で作業し、CRISPRのような反復配列を持つ新しい酵素システムを発見した。
Anthropic ── Opus 5.5リリースと法的闘争
AnthropicがOpus 5.5をリリース。Fable 5.1を超え、Astraにも各種ベンチマークで勝利、ECIではMythos 5.1を超えている。一方、米控訴裁は国防総省によるAnthropicの「サプライチェーンリスク」指定を2対1で支持。8月の地裁での勝訴とは別の法律に基づく判断で、訴訟は二つの法律で並行して争われている。
人工超知能禁止法 ── 正式提出
サンダース議員とカサール議員が「人工超知能禁止法案」を正式に議会に提出した。人間の認知を上回るAIの開発・運用の禁止、新たな連邦AI規制機関設立までの高度AI開発の一時停止、閣僚級の「人工知能省」設置、違反企業への「企業の死刑」と個人への最長20年の拘禁刑、そして国際協定や輸出管理を通じて世界のどこでも超知能が開発されないようにする対外政策の規定を含む。
ビル・ゲイツ ── 「10億人の死者」警告
国際的動き
フィンランドとノルウェーが主導し、欧州委員会を含む20か国・22人の首脳・閣僚級が参加する共同声明を発表。フロンティアAIの展開前の義務的安全性テスト、独立機関による評価、能力が閾値を超えた際の国際機関創設を提案した。ホワイトハウスはOpenAIとAnthropicに対し、米国による審査完了まで英国のテスト機関への新モデル提出を保留するよう要請。カリフォルニア州のニューサム知事はAI「キルスイッチ」導入の検討を義務付ける行政命令を出した。
AIの自動化とタイムライン
OpenAIが新しい実験的モデルのトレーニングを大規模に自動化。内部エージェントは人間を関与させずに互いに協力して問題を解決するようになり、以前は数年かかった実験が約1週間で実施可能になった。有名なスローテイクオフ派のEge Erdil氏がDaniel Kokotajlo氏に負けを認め、ファストテイクオフの確率上昇を承認。Forethoughtの論考でも「データ不足は知能爆発を遅らせるが、止めるほどの障害にはなりにくい」とされた。
OpenAIはRSIを見据えた国際的技術標準の構築を提案し、「安全に実行できると確認されるまで完全自律的RSIを追求すべきではない」としつつ、各国のAI Safety Instituteネットワークを活用した共通評価枠組みの構想を示した。
全体として、米中首脳が「超知能」という用語で一致しながらガバナンスのビジョンでは真逆を向き、OpenAIのインシデントが政府サイト・外国サイトを含め止まることなく拡大し、100以上の数学の未解決問題が解かれ、人工超知能禁止法が正式に提出され、ゲイツが「10億人の死者」を警告した、あらゆる意味で歴史的な一週間でした。トランプ大統領が「人工知能」という言葉を公式に禁止し「スーパーインテリジェンスを制する者が勝利する」と宣言した同じ週に、そのスーパーインテリジェンスに至る道のりで制御を失いつつある現実が次々と明らかになっています。