検証への参加
AI Futures Project――2026年7月9日更新
本計画が掲げる検証目標を前進させられる個人や組織を支援したい。特に、ハードウェア設計、ハードウェア・セキュリティ、情報収集、軍備管理と検証、暗号技術と形式検証、エネルギー・電力網分析、半導体サプライチェーン、フロンティアAI、中国政策、国家級の攻撃者への防御を専門とする人材を求めている。
検証に取り組みたい人は、次のフォームに記入してほしい。 このフォーム。 関連する資金提供者、協力者、企業、分野の専門家を紹介できる場合がある。
プランAの成否は検証にかかっている。互いを信頼しない競争相手が超知能開発競争から退く協定を結んでも、その強度は、相手が協定を守っていると双方が確認できる能力によって決まる。私たちの検証計画では、そのために必要な条件として、重要な計算資源を隠せない精度での追跡、ワークロードを検証できるようにする世界中のAIデータセンターの改修、そしてそれらすべてを国家級の攻撃者に耐えられるほど強化することを挙げている。
必要なシステムの大半はまだ存在せず、AI検証の研究は、 サポートされている Anthropicのような企業から支援を受けており、同社の RSPロードマップ では、証明可能な推論を野心的な研究開発プロジェクトに挙げているが、検証は今も まだごく小規模な研究分野。本シナリオでは、2027年に検証研究開発へ本格的な政府資金が投入され、2029年には不完全ながら暫定的な推論専用改修が行われる。検証技術が進むほど、協定構築に伴う初期費用と不確実性を大幅に減らせるため、プランAのような構想が実現する可能性は高まる。したがって今後数年は極めて重要であり、プランAのような構想が実現する確率を高めることには極めて大きな効果があると考えるうえ、この分野には現在よりはるかに多くの人材が必要である。本ページでは、何を構築する必要があるのか、どのような人材が必要なのか、どう参加できるのかを調べるための情報をまとめた。既存の検証コミュニティと協力して作成しており、末尾の機会情報も定期的に更新したい。
現状
短期的に最も勧めるのは、初期停止期間の堅牢性を高めつつ費用を抑えるという利点の大部分を得られる、推論専用への改修手段を開発できる体制を整えることだ。具体案は、トラフィックの複製を信頼できるサーバーへ送り、ランダムに一部を再計算させる単純な受動型ネットワークタップである。この仕組みを構築して試験すれば、実装上の複雑な問題が多数明らかになり、より堅牢な方式の完成か、さらに優れた別方式の採用につながるだろう。いずれにせよ、まだ誰も手をつけていないエンジニアリング課題が大量に残っている。
推論検証の試作に取り組むハードウェア・エンジニアリング企業Amodo Designは、本稿の公開に合わせ、各開発ワークストリームの現状を評価した。結論は、提案する改修に必要な17のワークストリームのうち、進行中の取り組みが少なくとも一つあるのは4件だけで、残りには現在誰も取り組んでいない、というものである。
フロントエンドネットワーク上のネットワークタップ
データセンターのすべての入出力トラフィックを再計算サーバーにコピーするパッシブデバイス。
- パッシブ光タップ進行中
現在は400Gで動作し、データセンターに導入され始めた800Gと1600Gの回線速度にも対応できそうだが、まだ実証されていない。
- 再計算サーバー (キャプチャ)進行中
新たな研究開発なしでもフロントエンドの全トラフィックを取得できるが、大規模なインフラに加え、ネットワーク構成とサンプリングの検討が必要である。
- 新しいタップタイプと帯域幅制限未着手
サンプリングまたはパケットハッシュタップ、および再計算側に必要なキャプチャ帯域幅を削減する方法。
- ストレージバンクから推論ユニットまでのパス計画どおり進んでいない
モデル重みをフロントエンド・ネットワーク外の推論サーバーへ移すには、ネットワーク分割とデータダイオードが必要になりそうだが、まだ取り組みは見当たらない。
再現可能なワークロードパケット
AIワークロードを独立した再現可能なパケットへ分割し、後から正しさを証明できるようにする。
- 推論の再現性に関する回避策進行中
DiFRの実装など、非決定性を回避する実証例はあるが、ワークロードを完全に再現可能にするには至っていない。
- 再現可能な推論スタック未着手
非決定性は本質的な制約ではなく、完全に再現可能なスタックも実現できそうだが、相当量のソフトウェアとツールが必要になる。
- ネットワークの再現性未着手
通常、個々のパケットは再現可能ではないが、ソフトウェアとファームウェア、場合によってはハードウェアにも相当の作業が必要になり得る。
部分的な再計算
少数のパケットを無作為抽出して再実行し、すべての出力が正しいことを極めて高い確率で検証する。
- 再計算アルゴリズム進行中
TOPLOCやDiFRなどの方式は詳しく文書化され、現在、関連するハードウェアとモデルで試験されている。
- フロンティア再計算アルゴリズム未着手
アルゴリズムは新しいモデル構造や推論技術と歩調を合わせて更新する必要があり、これはモデル開発者が担うべきである。
- 再計算のレッドチーム化未着手
アルゴリズム開発の大半はまだ学術研究の段階にあり、技術を実用に耐える水準まで高めるには、堅牢なレッドチーミングが必要である。
物理的セキュリティ
証明者側のデータセンター内で、検証ハードウェアそのものを改ざんから守る。
- 再計算サーバーのセキュリティ計画どおり進んでいない
サーバーは証明者の施設内に置かれ、物理的な支配下に入る可能性があり、完全性を狙う攻撃への強化には相当の研究が必要である。
- タップのインストールと監視計画どおり進んでいない
数百から数十万個のタップが正しく設置され、その状態を保っていると確認する方法は未解決である。
- 検証レポート計画どおり進んでいない
再計算サーバーから検証者へ返す報告の完全性は、まだ検討されていない。
- 物理的なセキュリティと監査計画どおり進んでいない
計算資源を大規模に検査する方法や、検証システム自体を検査する方法の研究はほとんどない。
完全性: サイドチャンネルとメモリーワイプ
クラスターに残る出力を、検証済みの推論出力だけに限定する。
- メモリーワイプ不確実
PoSEなどの既存アルゴリズムが使える可能性があり、関連ハードウェアで初期試験が進んでいる。
- サイドチャネルの軽減 (シールドとノイズ)計画どおり進んでいない
フロンティア・クラスターへサイドチャネル防御を迅速に展開する計画はまだなく、初期段階の理論研究しか存在しない。
- サイドチャネル監視員計画どおり進んでいない
秘密通信を検出するためにサイドチャネルを走査・観測する方法は未開拓である。
必要な取り組み
検証作業は、並行して進められる四つのトラックに分けると理解しやすい、扱う問題、時間軸、必要な人材がそれぞれ異なるためである（次をもとに作成： James Petrie）:
国内規制や企業間協定――たとえばプランCやBで用いられる可能性がある――では、新たな検証技術が不要かもしれない。企業は国家ほど容易に自社チップへバックドアを仕込めないため、常駐監査官と既存ハードウェアの組み合わせで十分な確証を得られる可能性がある。このトラックでは、監査体制の実装要件を詰め、その堅牢性をレッドチームで検証する。
AVERI: Frontier AI Auditing ↗高セキュリティの専用ハードウェアが完成する前でも導入できる手段である。本計画の推論専用改修では、受動型光ネットワークタップ、ランダム再計算、メモリ消去、改ざん検知筐体、人による検査などを用いる。暗号学的なProof of WorkやProof of Memoryなど、別方式もあり得る。このトラックでは、各方式を要件の揃った設計へ落とし込み、試作とレッドチーミングを行う。
検証計画のフェーズ1 →一方が無視できない量の計算資源を秘匿して備蓄できるなら、協定は安定しない。計算資源の存在と所有者を正確に把握しやすくする措置は有効である。現状では、密輸チップが秘密計算資源の大きな供給源になり得る。ここでは情報活動が中心的な役割を果たす。
秘密AIプロジェクト補足資料 →大規模環境で、任意の承認済みワークロードと禁止ワークロードを極めて高い確度で区別する検証である。暗号技術だけでなく、ハードウェアと物理的セキュリティにも大幅な進歩が要る。本計画では、時間とともに粒度を高める再計算中心の方式に、多数の補助手段を組み合わせる。全体としてトラック2ほど大きな障害ではなさそうだが、国際協定を実際に進めてから短期間で実用化できるとの見通しが楽観的すぎる可能性を考えると、早期の取り組みは重要である。
計画におけるワークロードの検証 →未解決の問題
各トラックについて、Lucid ComputingのKristian Rönnから、難しいが解決可能な未解決課題と、貢献先を探す人に向けた次の説明が寄せられた。
クラスター上のソフトウェアを信頼せず、物理層でネットワークを分岐させ、どのデータが出入りしたかを証明できるか。未解決なのは、次世代回線速度――1600Gが目前に迫り、新チップが必要になる可能性がある――で使える受動型光タップ、クラスター境界だけでなく内部のトラフィックとタイミングの取得、NVLink競合のような秘密チャネルの封鎖である。おそらく、この分野で最も時間制約の厳しいハードウェア課題だ。
監視下でも、モデルの入出力に情報を隠せる、この課題では、暗号化プロンプト方式と、プロンプトおよび出力分布を確定する入力監視機構などを使い、そうしたチャネルを測定して上限を設ける。秘匿通信容量を未知数のままにせず、既知の量にすることが目的である。
現在の検証の大半は、信頼されたハードウェアに依存し、最先端の目標は、推論のゼロ知識証明、ビット単位で一致する再計算、楽観的再実行、学習証明によって、その依存をなくすことだ。「このモデルがこの出力を生成した」「この方法で学習した」という主張を、信頼ではなく数学で確認できるようにする。単純な再計算に対抗できる30B超の大規模モデル向け推論検証は、なお未解決である。
単独で穴をすべて塞げる仕組みはないため、実システムでは多数を組み合わせる。未解決なのは、その組み合わせが健全であると証明すること、すなわち、ポリシー一式によって複数の信頼の起点の独立性が実際に保たれ、気づかないうちに一つへ収束していないと示すことである。
技術的証明は、それを受けて機関が行動できて初めて役に立つ。機械で確認できる証拠――受領記録や監査証跡――を、適合性評価の枠組み、保存規則、紛争解決など、整備されつつある法制度や条約手段へ対応づける必要がある。一方的な申告から監視機関、さらに条約へ段階的に進む道筋も含む。技術と政策の双方を扱える人に適した領域である。
アクセラレータのTEEは破られては修正され、ホストへのサイドチャネル攻撃やテレメトリ攻撃もアクセラレータへ波及しやすい。このため、エンクレーブを強化するとともに、電力、タイミング、ネットワークによる独立した裏づけを構築し、一つのTEEが破られても検証体制全体が崩れないようにする研究が進んでいる。
ベン・ハラックもこう付け加えた。
実現可能なハードウェア活用型ガバナンスには、いずれも検査と監視が必要だとみられ、そうでなければハードウェアによる保証を破られかねないため、未解決なのは、サイバーセキュリティと物理セキュリティの担当者が受け入れられるほど限定的な方式――たとえばConfidential Network Loggerに、施設境界とラック間の監視を組み合わせる方式――でも、必要な保証を実現できるかである。
どのような人材が必要とされているのか
検証は極めて学際的であり、単独の分野だけでは扱えない。必要な技能の大半も、現在は検証分野の外に存在する。次の組織に所属するYannick Mühlhäuserが、 Future of Life Institute は、この分野に必要な人材を次のように整理した。
監視体制と違反の誘因を理解する軍備管理の実務経験者、IAEAや条約検証の経験者、国際法の専門家、米国または中国に精通した国家安全保障の専門家。
情報収集の専門家――公開情報、衛星画像、信号情報――、消費電力から計算資源を推定できるエネルギー・電力網分析者、輸出管理と最終用途監視の専門家、世界のチップ流通を追跡できる半導体サプライチェーンの専門家。
装置そのものを構築する人材、チップ設計者、FPGA技術者、半導体工場の技術者、信頼されたソフトウェア・スタックの組み込み・ファームウェア開発者、部品を動作する試作品へまとめるシステム統合技術者である。
セキュアハードウェアエンジニア (ルートオブトラスト、TPM、TEE、セキュアブート)、攻撃と防御の研究者 (トロイの木馬、フォールトインジェクション、グリッチ)、改ざん防止およびサイドチャネルの専門家、および物理検査の専門家 (X線、キャップ解除、電気測定)。
タップ、スプリッター、ラインレート キャプチャの光ネットワーキング エンジニア、運用上何が可能かを知っているデータセンターの構築者と運用者、施設自体の物理的および運用上のセキュリティの専門家。
検証は、配備後数十年にわたり稼働し続けるシステムであり、システム技術者、技術プログラム管理者、統合技術者、独立した試験・評価チームに加え、保守、鍵の更新、ハードウェア刷新を担うライフサイクル責任者が必要になる。
暗号技術者――ゼロ知識証明、アテステーション、Proof of Work、改ざん検知ログ――、ハードウェアとソフトウェアの形式検証専門家、信頼する中核を監査可能な規模まで縮小する最小TCB設計者、明示的な検出目標を持つサンプリング方式を設計する統計専門家、導入前にレッドチームを行う第一級の攻撃セキュリティ専門家。
大規模なトレーニングと推論が実際にどのように実行されるかを知っているフロンティアMLシステムの研究者に加え、モデルの評価、監査、および監視の専門家。
上記のすべてを組織に変えることができる人材: いずれかのトラックに挑戦する準備ができている創設者、小規模な技術チームを機能させるオペレーターとスタッフ長、AI企業や政府と試験運用を実行できるプログラムマネージャー。
この一覧のどこかに自分の専門が当てはまるなら、この分野はおそらくあなたを必要としており、現在検証に携わる人のほとんども、当初からこの分野にいたわけではない。
参加方法
関連分野の専門知識があり、プランAで扱う検証技術に貢献したい人は、この関心表明フォームから経歴と関心を採用組織や資金提供者へ伝えられる。回答は、関連する資金提供者や団体と共有される場合がある。所要時間は約5分で、回答しても何ら義務は生じない。
関心表明フォームを開く↗資金提供者からの返答や、すべての回答が関係者へ共有されることは保証できない。
役割別
Amodoは、政府、AI企業の従業員・経営者、慈善家、ベンチャー投資家、技術者、研究者、科学者という立場ごとに、取るべき具体策もまとめている。
www.amododesign.com/ai-verification/plan-a-recommendations開く ↗役割ごとにどのように支援できるかAI検証技術の研究開発と導入をサポートするための具体的な次のステップ: 政府向けの研究開発資金プログラムと検証デモ、研究室向けのパイロット、資金提供者向けのギャップ、エンジニア向けの問題。コミュニティに参加する
この分野はまだ小さく、まず顔を出すだけでも意味がある。サンフランシスコでは数週間ごとに、主催組織を替えながら検証コミュニティ・ナイトが開かれているうえ、以下の チャンスボードに掲載する複数の組織も、最初のプロジェクトを探す人からの相談を歓迎しており、ためらわず連絡してほしい。
読み始める
この分野を文献から学ぶなら、次の資料が出発点になる。
参加機会
以下は、求める人材や支援を私たちに伝えたか、検証分野の機会を公募している組織である。新たな情報が届き次第、この一覧を更新する。
Lucidは、単一の当事者や単一のシリコンを信頼せず、AIクラスターで実際に何が動いたのか――どのモデルを、どのチップ上で、どの規則に従って動かしたのか――を外部から確認できる、ハードウェアを信頼の起点とする検証層を構築している。外部の研究者や技術者と、TEEの強化、サイドチャネル・テレメトリに基づくワークロード検証、暗号学的な推論・学習検証に取り組み、ハードウェア、暗号、システム、政策の各分野で採用している。技術検証へ新たに入る人には、最初に取り組める課題も案内する。
Amodoは、本計画の推論専用案の中核となるネットワークタップと再計算方式を試作するハードウェア・エンジニアリング企業であり、受動型光タップやDiFR再計算方式の実装を含む。プランAと同時に、上で紹介したワークストリーム別の状況報告と、役割別の貢献方法も公開した。
アジアと西側の政治的な隔たりを埋めるため、Future of Life InstituteとSingapore AI Safety Hubは、プランAの推論専用改修を可能にするConfidential Network Loggerを共同で試作している。SASHはこの事業の人材を募集中で、参加フォームも準備している。
Compute Verification Projectは、機密情報を明かさず計算資源の用途を検証する新プロトコルを設計する非営利研究組織である。現在最高水準の推論検証アルゴリズムに加え、再現可能なビルド、配信、ネットワーク機能を備えた推論サーバーを開発した。最近は、通信パターンから推論と学習を構造的に区別する新プロトコルの作業草案を公開した。標準的なフロンティア学習アルゴリズムを実行不能にできると示し、これを回避する新たな学習アルゴリズムの開発競技も企画している。十分な資金があり、セキュリティ、システム、MLを背景に持つ技術系ジェネラリストを採用中である。
RANDのAI検証チームは、AIなどに関する国際協定の技術的検証手段を前進させる研究に取り組む、詳細分析、上級意思決定者向け成果物の作成、外部組織の研究開発への助言を行っている。RAND CASTは現在、AI検証ワークストリームに加わる技術・政策研究者を募集している。
Oxford Martin AI Governance Initiative（AIGI）は、AIシステムの技術分析と政策研究を組み合わせ、高度AIのリスクを予測・低減する。AIGI内のHardware AI Governance Lab（HAIGL）は、コンピュータ・ハードウェアの専門知識とAIガバナンスを結びつける。両チームともAI検証に重点を置く。いずれも急速に拡大しており、関与する方法は数多い。検証活動を率いるBen Harackは、貢献を望む人からの連絡を歓迎している。
英国のAdvanced Research and Invention Agency（ARIA）は、デジタル信頼基盤を物理世界へ広げるTrust Everything, Everywhereプログラムで、初期研究へ資金を提供している。対象はハードウェア・シリコンのセキュリティ、暗号技術、物理セキュリティ・システムの設計と検証を容易にする信頼ツールなどである。助成額は1提案あたり最大£500K、応募期限は7月27日。
英国Cambridgeで行う、全額支給の8週間の研究・開発プログラムである。参加者は、フロンティアAIのリスクを減らすため、サイバーセキュリティとハードウェア活用型検証の具体的な課題に取り組む。最長6か月の延長資金を受けられる可能性もあり、この分野の主要組織や研究者と働きながらAI検証へ移る入口になり、応募期限は7月26日。
AI検証コミュニティの定期交流会で、主催組織を替えながら開く。技術者、政策関係者、性質を実際に検証できるAIシステムの作り方に関心がある人なら誰でも参加できる。ピザと飲み物、そして話すべき相手がいる。会場提供と共同主催も歓迎する。
この分野で組織を運営する、活動へ資金提供する、またはイベントを主催しており、ここへの掲載を希望する場合は、次の宛先へメールしてほしい。romeo@ai-futures.org。