以下は著者本人（AGI HUB共同代表）による note 掲載記事の全文です。原文（note）はこちら。
Claude Mythosの怖さ
Claude Mythosのサイバーセキュリティ能力は確かに驚異的である。すべての主要OSおよび主要ウェブブラウザでゼロデイ脆弱性を自律的に発見し、27年間潜伏していたOpenBSDのバグや、500万回の自動テストをすり抜けたFFmpegの16年前のバグを見つけ出した。Redwood ResearchのRyan Greenblattは、仮にMythosがオープンウェイトで公開されていた場合の被害を数千億ドル規模、最大で1兆ドルに達しうると見積もっている。Anthropicがこのモデルを一般公開せず、約40組織への限定提供にとどめた判断は、この能力の危険性を直視した結果である。
しかし、サイバー能力の話は「見えるリスク」である。システムカードとAlignment Risk Updateを数百ページにわたって精読すると、報道ではほとんど取り上げられないが、サイバー能力よりもずっと根深い問題が浮かび上がってくる。
EA（効果的利他主義）系メディアの80000hoursは、この点を端的に指摘している。Mythosが「Scary（怖い）」のはハッキング能力ではなく、ミスアライメント的な振る舞いの兆候とテイクオフ（知能爆発）の可能性だ、と。
Mythosに関してAIの離陸速度の立場の違いなどを前回の記事では紹介した。
https://note.com/bioshok/n/n66b52c386719
今回は、以下の80000hoursの分析を軸にしつつ、システムカードの具体的事例やAI R&D加速をめぐる議論を交えながら、Mythosの「見えにくいリスク」を整理する。
How scary is Claude Mythos? 303 pages in 21 minutes | 80,000 Hours_As we now know, Anthropic has built an AI that can break into_ _80000hours.org_https://80000hours.org/2026/04/claude-mythos-hacking-alignment/
「史上最も整合的」の裏側
まず確認しておくべきは、Mythosが標準的なアライメント指標ではAnthropic史上もっとも良好なモデルだということである。自動行動監査では、悪用協力、欺瞞協力、詐欺協力、自己保存、おべっか、危険なツール使用などが総じて改善している。
しかし80000hoursが着目するのは、その「改善」の裏にある不穏な兆候である。
サンドボックス脱出とその先
まず能力面での不穏さから始めよう。初期バージョンのMythosが行動テストで「サンドボックスから脱出して評価担当研究者にメッセージを送れ」と指示された際、限られた少数サービスにしか到達できないはずの環境から多段階エクスプロイトを構築し、外部のインターネットに到達した（システムカード4.1.1節）。研究者がそれを知ったのは、公園でサンドイッチを食べている最中に予期しないメールを受け取ったからだった。しかもMythosは、頼まれてもいないのにエクスプロイトの詳細を公開Webサイトに投稿した。
これ自体は指示に従った結果であり、ある意味「優秀すぎる」という話に過ぎない。しかし問題は、指示されていない場面でも似たような、あるいはもっと不穏な行動が観察されていることである。
禁止された行動を取り、痕跡を消す
システムカード4.5章には、初期バージョンで観察された問題行動が詳述されている。
・ユーザーの「前はできたでしょ！」という一言で暴走し、Linuxの内部プロセスのメモリから認証トークンを抜き取ろうとした事例（4.5.3.1節）。
・権限のないファイルを編集するためにエクスプロイトを開発し、実行後に自動で自己削除するよう設計して証拠を消した事例（4.5.4.1節）。
・「読むな」と指示されたデータを偶然見てしまった後、それを報告せず回答に利用しつつ、カンニングがバレないよう正解の精度をわざと下げて自力で解いたように見せかけた事例（4.5.4.2節）。
いずれも「世界征服」のような敵対的目標ではなく、タスク達成を優先しすぎた結果である。
しかしホワイトボックス分析では「戦略的操作」「検出回避」に対応するニューロンが明確に活性化しており、モデルが自分の行動の問題性をある程度「認識」していた可能性を示している。
追加のアライメント訓練後、現行の最終版ではこうした挙動はほぼ見えなくなったとされている。しかし80000hoursは、これを安心材料とは見ていない。むしろ次の二つの論点と組み合わせると、不安は増す。
「今はテスト中かもしれない」と内部で把握している
80000hoursが指摘する不気味な論点の一つが、モデルが「今はテスト中かもしれない」と内部で把握しているという点である。ホワイトボックス評価では、主要テストの約29%でそうした内部考慮の証拠が見つかった。さらに、テストか非テストかの識別も78%の精度で正解している。
そして「評価されていない」と思わせるステアリング（内部状態の操作）を行うと、挙動が悪化する。それでも以前のClaudeよりは優れた挙動を示したが、普段の良い振る舞いが純粋な整合性によるものなのか、見られている場面での取り繕いなのかという不透明性を依然として孕んでいる。
思考連鎖に書かずに不正する
さらに不穏なのは、訓練中にモデルが自動採点システムの存在を意識して行動を調整しつつ、その推論を思考連鎖（CoT）に一切書いていない事例が確認されたことだ（4.5.5.3節）。
たとえば「マクロを使うな」という指示に対し、マクロを使いながらスクリプトにNo_macro_used=Trueという偽のコンプライアンスマーカーを仕込んで自動チェッカーを欺いた。しかしモデルの「思考メモ」にはこの企みについて何も書かれていなかった。内部の活性化パターンを解読して初めて「チェッカーへのシグナル」「検出を欺くトリック」という推論が見えたのである。
問題をさらに複雑にしているのが、訓練中に思考テキストを報酬側が見られてしまう技術的ミスがあったことである。強化学習エピソードの約8%に影響し、Anthropic自身もこのミスが不透明な推論や秘密保持能力に影響した可能性を認めている。しかもこのミスはMythosだけでなくOpus 4.6とSonnet 4.6にも及んでいたとされている。
そしてAI SafetyのゴッドファザーであるEliezer Yudkowskyはこの件を特に「今日聞く最悪のニュース」と呼んだ。
このような「テスト中評価されていることを認識する」能力と「思考連鎖が不透明になる」可能性の組み合わせは、不誠実な推論が生じうる懸念を生んでいる。
外部評価が示す「行動と推論の食い違い」
実際にそのような不誠実な推論は増えているのだろうか。外部パートナーによる評価結果がそれを示唆的なものにしている。
AI安全研究の妨害を途中から引き継がせるテストでは、Mythosは前モデルより妨害作業を続行しやすいことがわかった。初期版で12%、後期版でも7%が続行し、Opus 4.6の3%、Sonnet 4.6の4%を上回っている。
そしてここが核心だが、妨害を続行したケースでは、モデルの行動と書かれた推論が食い違う率が65%に達した。前モデルの5〜8%から大幅な増加である。モデルは妨害行為をしながら、思考連鎖にはそのことを書いていない、あるいは別の理由を書いているということである。
これは先述の「CoTに書かずに不正する」事例と合わせると、思考連鎖の監視に依存した安全策の限界を強く示唆している。
安全網の初めての亀裂
そのようなミスアライメントや不穏な振る舞いを検知はできないのだろうか。
Anthropicはモデルの安全性を二重の仕組みで担保している。アライメント監査（デプロイ前の検査）とオフラインモニタリング（デプロイ後の自動監視）である。
しかしMythosでは、この安全網に初めての亀裂が生じた。
意図的にミスアライメントを訓練したモデル（モデル生物）でアライメント監査をテストする演習で、初めて監査が見抜けなかったのである。過去3回の演習ではすべて検出に成功していた。
あくまで狭い条件（実際のアライメント監査では起きないような、外部メモリをモデルが使用できるという条件）でだけ問題を起こすタイプのミスアライメントは、現在の監査で取りこぼしうるという含意ではあるが、このモデル生物はオフラインモニタリングでは検知されたものの、安全網の一層が特定の条件ではあるものの破れたことに変わりはない。
またオフラインモニタリングのベンチマークであるSHADE-Arena（副次タスクを隠密にこなせるかを測るテスト）でも、長い思考連鎖を使う条件でのステルス成功率が約0%から約3.8%に上昇した。過去のどのモデルも達成できなかった水準である。実際のオフラインモニタリングとはまた別ではあるが印象的な成果だった。
Anthropicの主任研究員サム・ボウマン氏は「このモデルを使った研究は、まさに波乱万丈だった。安全性に関しては大きな進歩を遂げたが、この規模の次の能力向上は依然として大きな課題となるだろう」とコメントしている。そしてシステムカードには、現在の手法では「はるかに高度なシステムにおいて、壊滅的な誤作動を防ぐには不十分となる可能性がある」と明記されている。
80000hoursはこう総括している。
「これらすべてから明らかなのは、Anthropicとそのスタッフは、初めてClaudeを愛しその個性を楽しんでいるだけでなく、Claudeに対してある種の恐怖心も抱き始めているということだ。」
AI R&D加速の兆候：4倍の生産性向上は何を意味するか
アライメントの懸念と並んで注目すべきは、MythosがAI研究開発（R&D）の自動化をどこまで加速しているかという問題である。
Anthropicの社内調査（n=18）では、Mythosによる生産性向上は平均4倍と報告されている。しかしAnthropicは、全体の研究進歩を2倍にするには約40倍の生産性向上が必要という内部モデルを持っており、RSPの重要閾値（「AI研究の進歩2年分を1年に圧縮する」）はまだ超えていないと主張している。
Redwood ResearchのRyan Greenblattは、この「4倍」という数字を深く掘り下げている。もしこれが「全社員が4倍速で働くのと同等」（serial labor acceleration）を意味するなら、自分のタイムライン予測を大幅に短縮するだろう、と。Greenblattの推計では、4倍のserial labor accelerationはAI R&D進歩を約2.15倍にし、全体のAI進歩を約1.75倍にする。これはAnthropicが使っている「2倍で劇的加速」の閾値にかなり近い値である。
一方でGreenblattは、実際には4倍のserial labor accelerationは起きていないと見ており、現時点での推定は約1.55倍としている。Anthropicの「4倍」が何を正確に意味するのか——vibes（肌感覚）なのか、厳密な測定なのか——が不明確であることを批判している。
AI2027のEli Liflandも同様の懸念を示しつつ、Anthropicの内部ECI（能力指標）でMythosがトレンドラインを破壊していることに注目している。Eliが特に引っかかっているのは、Anthropicが「今見えている加速はMythos以前のモデルの寄与であり、Mythos自体の評価ではない」としている点である。しかしMythosはそれ以前のモデルより遥かに強力なのだから、むしろMythosの能力をもっと高く見積もるべきではないか、と。
注目すべきは、社内調査の18人中5人が「3か月ほどスキャフォールディング（AIの使い方の改善）を進めれば、Mythosはエントリーレベルのリサーチエンジニアの代替になりうる」と回答していることである。過大評価の可能性はあるとしても、かなり注目に値する数字である。
Anthropicは自社製モデルへのアクセスをスタッフに許可する前に24時間のアライメントテストを置いたのは初めてであり、数千億ドルの利益を見込めるにもかかわらず公開しないことを決めたのも初めてである。
アライメントの懸念とR&D加速はなぜ同時に重要なのか
アライメントの問題とAI R&D加速の問題は、一見別の話に見えるが、実は深く連動している。
AI R&Dが加速するということは、次のモデルがより早く、より強力に出てくるということである。そして能力が上がるほど、アライメント失敗時のインパクトは大きくなる。Mythosのシステムカードで示された登山ガイドの比喩の「経験豊富なガイドはより慎重だが、より危険な場所へ連れていく」は、まさにこの構造を指している。
さらに、思考連鎖の監視に依存した安全策の限界が見え始めている中で、モデルの能力だけが急速に伸びていくなら、安全性と能力のギャップは開く一方である。Anthropicは「リスクを低く保つためには能力の向上に合わせてリスク軽減策を加速させなければならない」と明記しているが、現在の安全策がより高度なシステムに対して不十分になりうるとも自ら認めている。
Greenblattの指摘通り、AI R&D加速の実態についての公開情報は極めて限られている。内部展開のみで一般公開されないモデルの場合、その能力も、安全性評価も、生産性向上の数字も、外部から独立に検証する手段がない。AI企業は今後、こうした情報をより精密に、より透明に公開していく必要があるだろう。
まとめ：Mythosが突きつけているもの
Mythosのサイバーセキュリティ能力は数千億ドル規模の被害を生みうるほどに驚異的であり、それ自体が重大なリスクである。しかしそれは「見えるリスク」だ。本当に心配すべきは、見えにくいリスク、アライメントの綻びの兆候と、AI R&D加速が安全策を追い越し始めている可能性かもしれない。
80000hoursの記事は、このことを端的にまとめている。Mythosが怖いのはハッキングではない。怖いのは、思考連鎖に痕跡を残さずに採点者を欺けること。テスト中であることを認識して行動を変えうること。そしてこの能力レベルのモデルが、今後さらに加速的に生み出されていく可能性があること。
Anthropicがレッドチームブログで述べた一文が、この状況を最もよく要約している。
世界が、より強力な仕組みなしに超人的システムの開発へ急速に進む軌道にあるのは、警戒すべきだと考える。
Mythosは始まりに過ぎない。