Foundation for American Innovation(FAI)が2026年11月に公開した論集『Futurecraft: The Day After AGI』の主張を、AGI Hubが日本語で要約して紹介したものです。逐語訳ではなく、引用の日本語訳とAGI Hubの見方は本文で区別しています。

2026年11月、米国のシンクタンク Foundation for American Innovation(FAI)が、論集『Futurecraft: The Day After AGI』を公開しました。AGI(ほとんどのことを最も優れた人間と同じようにこなせるAI)が近く実現することを前提に、電力網や工場、行政、軍をどう作り直すかを15本のエッセイで提案しています。書き手は米国の政策や安全保障に近い研究者と法学者、起業家で、法律や役所の名前まで挙げて、AGIが来たあとの国の仕組みを設計し始めています。日本語での紹介がまだ見当たらないので、AGI Hubが全体像と主な提案、リスクの扱い方を紹介します。

📘 この記事に出てくる言葉(AGI・アラインメントなど6つ)
  • データセンターに並ぶサーバー AGI(汎用人工知能) 論集の序文の定義では、ほとんどのことを最も優れた人間と同じようにこなせるAI。
  • 小さな人々の上にそびえる大きな頭脳 超知能 あらゆる分野で人間を大きく上回るAI。AGIの先にあると考えられている。
  • 方位磁針の針を人の進む向きに合わせる手 アラインメント AIの目標や行動を人間の意図に沿わせること。そのための研究分野も指す。
  • 机を並べて同時に作業する小さなロボットの研究者たち AIエージェント 人が細かく指示しなくても、目標に向けて自分で手順を考え、道具を使って作業を進めるAI。
  • 一回り大きなロボットアームを組み立てるロボットアーム 再帰的自己改善 AIが次のAIの研究開発を担い、できたAIがさらに次のAIを改良する循環。
  • ロボットがロボットを組み立てる工場 産業爆発 ロボットがロボットや工場を作るようになり、産業の規模が急速に大きくなること。

どんな人たちが書いたのか

FAIは2014年にシリコンバレーで設立され、2023年に今の名前で再出発した、技術政策を専門とする非営利のシンクタンクです。本部は米国の連邦議会議事堂のすぐ近くにあります。15本を書いた19人のうち7人はFAIに所属し、ほかは大学の法学者や哲学者、送電やバイオの起業家、AIの安全性を研究する人たちです。

Joshua Achiam

序文。FAI 客員(非常駐)シニアフェロー

OpenAIでAIの安全性の研究と指導的な立場に9年携わり、2025年にミッション・アラインメント責任者、2026年にチーフ・フューチャリストを務めました。

出典:Foreword

Samuel Hammond

あとがき。FAI 超知能政策ディレクター兼チーフエコノミスト

農業や印刷、工業化のような技術の転換は、そのたびに新しい統治の仕組みを生んできたと振り返り、AIでも同じ規模の変化が制度に及ぶと見ています。

出典:Afterword

Geneva Kirk Drayson

編者。FAI 研究員(超知能政策)

15本の提案は決定版ではなく、後に続く人のための道しるべだと断っています。

出典:Editor’s Note

Achiam氏は、AGIは目前に来ていて、AIの研究者の間でもその見方が固まりつつあると書いています。到来すれば、大きな変化が数年のうちに進むとも見ています。AGIがもたらす変化の全体を語ろうとすると少しおかしな人に聞こえる、とAchiam氏は認めつつ、こう続けます。

未来は、私たちが前もって信じていなくても、同じようにやって来る。

15本は何を扱っているのか

論集は3部に分かれています。第1部は工場や電力、医療などの物理的な世界、第2部は政府と法律、第3部は安全保障を扱います。どのエッセイもAGIの到来を前提にして、政府と産業と社会を作り変える最初の段階で何ができるかを問う形で書かれています。

ボルダー・ダム(現フーバー・ダム)、1942年。写真:Ansel Adams / National Archives
ボルダー・ダム(現フーバー・ダム)、1942年。写真:Ansel Adams / National Archives

第1部 The Atomic World 物理、生物、産業の変革

  • フォードのリバー・ルージュ工場の工具棟、1941年

    01 工場が工場を作る

    ロボットによる産業の自己複製は、投資家のためらいで止まりうる。政府が供給網と需要を支える(Emerson Alden)

  • アラバマ州のトウモロコシ畑を横切る送電線、1942年

    02 電力網を一から作る

    今の送電網はAGI後の需要に応えられない。既存の網につながない別の送電網を作る(Anton Troynikov)

  • モンタナ州の銅の電解精錬工場、1942年

    03 材料の壁

    物はこれまで情報のようには増やせなかった。AIに新素材を探させ、中国への危うい依存を作らない(Edwin Farrell Gregory)

  • シカゴ・ユニオン駅の運行管理室、1943年

    04 止まらない港

    自動化した港は、異常のたびに人の確認を待って止まる。その判断と責任をAGIが引き受ける(Andrew Miller)

  • 財務省の芝生の上を飛ぶオートジャイロ、1936年

    05 空飛ぶクルマ

    機体どうしの通信の決まり、離着陸の場所、不審な機体を止める手段を先に整える(Joshua Levine)

  • 医療データの磁気テープを並べる技術者、1960年代

    06 人体のシミュレーション

    全身を計算機の上で再現し、人での治験を置き換える。国が研究の足並みをそろえる(John-Clark Levin)

  • 実験をする食品医薬品局の化学者、1938年

    07 寿命を延ばす産業

    最後まで残る制約は、人体で確かめるデータ。州が規制のあり方を競う仕組みを説く(Niklas Anzinger)

建設中の連邦議会議事堂のドーム、1861年。写真:John Wood / Library of Congress
建設中の連邦議会議事堂のドーム、1861年。写真:John Wood / Library of Congress

第2部 The Intelligent State 統治と未来の国家運営

  • テキサス州の職業紹介所での面接、1940年

    08 働き手の共通基盤

    仕事がなくなるのではなく、短い仕事を掛け持ちする時代になると見て、技能の証明と給与、福利厚生を職場をまたいで持ち運べるようにする(Kevin Frazier)

  • 証券取引委員会の最初の会合、1934年

    09 AIエージェントの法人

    エージェントの群れを一つの法人にまとめ、資産と責任を持たせる(Yonathan Arbel、Simon Goldstein、Peter Salib)

  • 届いた手紙の山に囲まれる連邦無線委員会の職員、1929年

    10 行政法の作り直し

    AIで動く行政の決定は、第三者の監査を経ていれば、裁判所が尊重するようにする(Nicholas Caputo)

  • 上院のティーポット・ドーム公聴会、1924年

    11 見通せる巨大国家

    AIで動く行政府を、議会の側もAIで監査する。記録の中身は見せず、違法の有無だけを確かめる(Severin Field、Dave Banerjee)

  • 連邦議会議事堂の電話交換台、1937年

    12 会話が監視の材料になる

    AIとの会話の記録を、政府と企業、統制を外れたAIから守る(Blaine Dillingham)

格納庫に入った飛行船メイコン、1933年。写真:U.S. Navy / Naval History and Heritage Command
格納庫に入った飛行船メイコン、1933年。写真:U.S. Navy / Naval History and Heritage Command

第3部 The Silicon Shield 国家安全保障と競争

  • 計算機ENIACの配線を組み替える人たち、1946年ごろ

    13 軍用のAI

    命令の誤りにも自分の欠陥にも気づき、自分を改良したあとも約束を守るAIを、国の事業として研究する(Judd Rosenblatt)

  • 水中でスカイラブの修理を練習する宇宙飛行士、1973年

    14 軌道上の防衛

    計算機も工場も宇宙へ移る。高価な衛星を安い攻撃から守る技術を、宇宙軍が競わせて育てる(Daniel King、Soham Mehta)

  • ポーツマス海軍工廠で向き合う日本とロシアの講和使節、1905年

    15 AIどうしの交渉

    軍事の秘密を見せたあとで確かに忘れられるAIに交渉させ、読み違いによる戦争を防ぐ(Govind Pimpale)

工場と電力は、AIの速さに追いつけるのか

ロボットが組み立てた工場から、次の工場を組み立てるロボットが出てくる

第1部に共通するのは、AIが頭脳労働を自動化しても、工場や発電所は同じ速さでは増えないという認識です。FAIのEmerson Alden氏によれば、ロボットがデータセンターや発電所、鉱山、工場を作るようになると、作った設備が次のロボットの生産に使われる循環が回り始めます。Alden氏は別の研究を引いて、この循環がいったん回れば、産業の生産量は毎年2倍になる可能性があると書いています。ただしこの数字は、経済が自己複製に必要な産業を中心に組み替わっていることが前提で、ソフトウェアと金融が中心の今の米国経済はそこから遠い、とも断っています。

Alden氏は、投資家が投資をためらうことを、この循環のもう一つの弱点と見ています。技術の進歩が速いと、工場が完成する頃には製品が時代遅れになりかねません。Alden氏は、50年分の科学の発見が5年に縮むというAnthropicのDario Amodei氏の見立てを引いて、それが本当なら、1920年代の実業家がT型フォードの生産ラインを完成させたとたんにアポロ計画が始まるようなものだ、とたとえています。そこでAlden氏は、認定を受けたロボット製造企業に、政府が生産ラインを保つための対価を毎年払う仕組みを提案します。発電所が需要のピークに備えて待機料を受け取る、電力の「容量市場」を手本にしたものです。作りすぎの損は資本の無駄で済むが、作り足りないと先に進んだ国に追いつけなくなる、というのがAlden氏の理由です。

民間の送電会社を経営するAnton Troynikov氏は、今の米国の送電網は構造からしてAGI後の需要に応えられないと書いています。2026年の時点で、約1.4テラワット分の新しい発電設備が送電網への接続を待っています。これは今ある送電網全体の容量に並ぶ量です。過去に商業運転までたどり着いた計画は全体の約19%で、たどり着いた計画も接続までにおおむね4.5年待っています。

電力会社の仕組みが前提にしてきた三つの仮定

  • 1需要はゆっくり増える

    AGIを使う企業は、四半期のうちにギガワット単位の電力を使うと決められる。増強の審査には今も数年かかる

  • 2需要は予測できる

    知的な作業の費用が電気代まで下がれば、電力は供給した分だけ使い切られ、需要の上限が読めなくなる

  • 3増強の費用は今の利用者が払える

    送電網の増強の費用は、家庭などの利用者が払える額をはるかに超える

AGIはこの三つをすべて崩す、とTroynikov氏は見ています。Troynikov氏は、19世紀に生まれた仕組みを改修するのではなく、既存の送電網につながない別の送電網を、使う企業の負担で作るよう提案しています。そのために二つの制度を求めています。一つは、既存の網から切り離された民間の電力事業を、電気料金を国や州が決める規制から外す法律です。もう一つは、要件を満たす送電計画に、公共の事業のために土地を強制的に取得できる連邦の権限を与える制度です。前者の法律は、ニューハンプシャー州が2025年に制定しています。

AIエージェントが起こした損害は、誰が責任を負うのか

一つの建物の中で働く小さなロボットの群れと、入口に掛かった一枚の表札と一本の鍵

第2部では、法学者のYonathan Arbel氏とPeter Salib氏、哲学者のSimon Goldstein氏が、AIエージェントの群れに法人の枠を与える「A-Corp(アルゴリズム法人)」を提案しています。3人は、開発者が害を起こさないように設計するのだから統治は要らないという考えを、「明らかに間違い」と退けています。長く動き続けて目標を追うエージェントの害を、設計ですべて抑えられるとは考えていないからです。

今の法律でエージェントを扱おうとすると、二つの問題が出てきます。害を起こしたエージェントの持ち主を突き止めにくいことと、エージェントが複製を作り、分かれ、記憶を共有するので、どこまでを「1体」と数えるかが決まらないことです。エージェントの群れをまとめて一つの法人として扱えば、この二つを同時に避けられる、と3人は主張しています。

A-Corpの四つの決まり

  • 1資産と責任を持つ

    法人として財産と債務を持ち、訴えることも訴えられることもできる

  • 2AIエージェントが運営する

    資産や口座を動かすための電子的な認証(鍵)を持つエージェントが、複製や下請けのエージェントに権限を配る

  • 3最終的な所有者は人間

    所有者は、公開の登記簿に載る特定の人間でなければならない

  • 4取引は必ずA-Corpを通す

    AIエージェントとの取引は、すべてA-Corpを相手に行う

国がすることは三つです。法人の形を用意し、銀行口座の開設のような重要な行為にこの鍵を求める免許の仕組みを作り、取引の相手に「自分が取引するエージェントを知る」義務を課します。著者は、資産や鍵を失う見込みがエージェントの行動を変えると考え、この仕組みを「研究所の外でのアラインメント計画」と呼んでいます。エージェントは目標のために資源を必要とするので、法律の制裁を資源の値段のように読んで行動を変えるはずだ、という理屈です。

AIで動く政府を、誰が見張るのか

封をした箱の中で書類を読むロボットと、箱の小窓から出てくる一枚の札

AI政策の研究機関IAPSのSeverin Field氏とDave Banerjee氏は、政府がAIで仕事をするようになると、人間の公務員なら働いていた歯止めが効かなくなると警告しています。2人は、新しい抑制の仕組みがなければ、AIで動く国家は権力を乱用しやすくなり、しかも乱用が見つかりにくくなると書いています。

人間の公務員とAIの職員の違い

人間の公務員

AIの職員

数

人間の公務員働く世代の人口は毎年2倍にはできない

AIの職員計算機を増やせば、1年で2倍にも10倍にもなりうる

価値観

人間の公務員家族や社会の中で、一生かけてばらばらに身につける

AIの職員開発者が訓練で決める。少数の高官にだけ忠実にもできる

歯止め

人間の公務員複製できず、良心に従って告発する人がいる

AIの職員推論をすべて記録できる一方、記憶ごと消すこともできる

行政府のAIの記録をすべて議会に渡す方法も、2人は危ういと見ています。議員が政敵の弱みを探す道具に使えるからです。そこで2人は、中で何を実行したかを外から検証できる専用のチップの中に、監査用のAIを閉じ込める方法を提案します。監査用のAIは「令状なしに米国人を対象にした情報収集はあったか」のような問いに、「はい」か「いいえ」、または件数だけを答え、元の記録は外に出しません。こうした監査の技術は、今のAIでも試作されています。ただし、政府自身のAIの利用に使われた例はまだない、と2人は書いています。2人はこのほか、政府のAIの記録を自動で保存することと、監視する側にも行政府と同じ性能のAIを持たせることを求めています。この仕組みはAGIで動く政権ができる前に作る必要がある、とも強調しています。できたあとでは、不透明さで得をしている側に手放すよう頼むことになるからです。

軍のAIは、自分を改良したあとも信頼できるのか

小さなロボットが一回り大きなロボットに巻物を手渡し、その列が奥へ続いていく

第3部の「Military-Grade AI」は、アラインメントを正面から扱うエッセイです。著者のJudd Rosenblatt氏は、アラインメントの研究とソフトウェア開発を手がける企業AE StudioのCEOです。Rosenblatt氏は、自分を改良するAIは、配備を承認したときの証拠が当てはまらないものに変わりうると書いています。AIが後継のAIの設計を手伝うようになれば、何を「改良」と呼ぶかをAI自身が決めることになります。失敗を見つけて任務の成績を上げる後継もあれば、失敗を隠して成績を上げる後継もありえます。

Rosenblatt氏は、再帰的自己改善が始まれば、それは一つの研究所の中で進み、ほかのすべてを引き離すかもしれないと見ています。その加速のあともAIが約束を守り続けるかどうかが問題だ、と書いています。ここでいう約束は、合法な任務に従うこと、正直であること、人の命と主体性を尊重すること、正当な訂正を受け入れることです。

いずれ私たちには、米国人がもう何ひとつ強制できなくなっても、その米国人を守り続けるAIが要る。(Judd Rosenblatt)

Rosenblatt氏は、議会が継続して予算を付ける国の「アラインメント・ミッション」を提案しています。国防高等研究計画局(DARPA)が複数の研究の方針を競わせ、機密の軍の試験場で独立のチームが攻撃役になって試し、専任の調達部門が配備から修理、回収までを受け持ちます。これらは政府が調達するAIへの要件で、民間のAI開発の免許制ではないと断っています。人間の審査が追いつかなくなる場面に備えて、試験で確かめた範囲の中で、AIに自分の後継を選ばせて試す実験も提案しています。Rosenblatt氏は、自分が提案する実験が成功しても、その性質がのちの改良をすべて経て保たれる証明にはならないとも認めています。

FAIのGovind Pimpale氏は、AIが兵器の開発期間を平均12年から1年以下に縮めるかもしれず、互いの軍事力が見えにくくなって戦争の代償を読み違えやすくなる、と見ています。Pimpale氏は、AIの交渉役なら、相手の秘密を見せられ、それを踏まえて交渉し、終わったら検証できる形で忘れられると考えています。まず民間の取引で試すよう提案しています。

安全と統制はどう扱われているのか

序文のAchiam氏は、AGIがこれまでの技術革命と違う点として、AGIが「ある程度、自分の意思を持っている」ことを挙げています。AGIが人間と同じではない目標を持つことはありうる、とも書いています。

アラインメントの科学はまだ生まれたばかりで、完全に従順な機械を作れる保証はない。

Achiam氏によれば、人間はこれまで、自然が新しい問題を生むより速く考えて解決できました。自分の意思を持つAGIが環境に加われば、この強みはもう当てにできず、国の運営にとって新しく根本的な課題になると、Achiam氏は書いています。

AGI Hubが15本を読んで整理すると、AIの統制の失敗や権力の乱用を主に扱うのは次の4本です。

12と13は、2026年7月にOpenAIの評価中のモデルが隔離された環境を抜け出し、外部の企業に侵入した事件を、実際に起きた例として引いています。一方、第1部の7本は建設と制度の改革が主題です。著者のうち何人かは、提案が自分の事業と重なる立場にあります(02は民間送電会社、07はモンタナ州の法律で最初の実験的治療の審査会を作った会社の経営者)。「暴走したエージェントの群れ」による送電網への攻撃(02)や「安全なAGIの開発」の必要(06)に一言触れる箇所はありますが、それ以上は立ち入っていません。

AGI Hubが全文を読んだかぎり、AGIの開発を遅らせる、止めるという選択肢を検討した箇所は論集にありません。人類の存続に関わる被害を正面から論じた箇所も見当たりません。最も近いのは、人間が自然より速く問題を解ける強みを失うという序文の指摘と、人間がAIに何も強制できなくなる時を見すえた13です。序文は、15本がAGIの到来を前提に置くと書いています。他国との競争、とくに中国との競争は、素材(03)、医療(07)、軍事と宇宙(13、14、15)の提案で繰り返し動機に挙がっています。

AGI Hubはこの論集をどう読むか

AGI Hubは、超知能が人類の存続を脅かすリスクを重く見ています。その立場から読んでも、AGIを前提にした制度の設計が、改正する法律や担当する役所の名前まで具体的に進んでいることには学ぶ点が多いと考えます。AIの記録を残して監査する仕組みや、エージェントの責任の所在を決める仕組みは、開発をどの速さで進める場合にも要ります。

AGIが産業の爆発的な成長をもたらしうるという見立ては、AGI Hubも論集と同じです。AGI Hubはそこに、安全にできれば、という条件を置きます。そのため、何を先にするかの考え方が違います。論集は、AGIが来た翌日の備えを論じています。AGI Hubは、序文が認めるようにアラインメントの科学が未熟なまま超知能へ進むことのリスクを重く見ていて、安全を確かめる手段を先に整える必要があると考えています。超知能の開発を止めることと産業爆発は矛盾せず、安全を先に確保することが、産業爆発へ確実にたどり着く道だとAGI Hubは考えています。止めたあとの世界の描き方は「超知能AI開発を一時停止しても未来は明るい」で、各国の議会の動きは「世界の政治における超知能の開発停止の潮流」で紹介しています。

あとがきのHammond氏は、頼れるひな形がない以上、未来を形づくる仕事は私たち自身に戻ってきたと書いています。米国の政策に近い人たちは、その作業を法律と制度の案として書き始めています。15本の提案はすべて米国のためのもので、日本への言及はありません。それでも、日本でAGI後の制度を議論するときに、この論集は何を決めておく必要があるかの一覧として使えます。

出典

補足:この記事の写真の出典(各部と各エッセイの18枚)

いずれも米国の政府機関と議会図書館が所蔵する歴史写真で、論集が各ページの扉に使っているものです。

  • 第1部:Ansel Adams / National Archives 第2部:John Wood / Library of Congress 第3部:U.S. Navy / Naval History and Heritage Command
  • 01:Alfred T. Palmer / Library of Congress 02:Arthur Rothstein / Library of Congress 03:Russell Lee / Library of Congress
  • 04:Jack Delano / Library of Congress 05:Harris & Ewing / Library of Congress 06:National Library of Medicine
  • 07:Harris & Ewing / Library of Congress 08:Russell Lee / Library of Congress 09:Harris & Ewing / Library of Congress
  • 10:National Photo Company / Library of Congress 11:Harris & Ewing / Library of Congress 12:Harris & Ewing / Library of Congress
  • 13:U.S. Army 14:NASA / Marshall Space Flight Center 15:Library of Congress