世界の政治における超知能の開発停止の潮流各国の議会と政府の動き

2026年9月から11月にかけて、超知能の開発を止めようとする動きが各国の議会と政府で相次ぎました。超知能は、人間の能力を大きく上回るAIを指します。英国と米国の議会には超知能を禁じる法案が出され、米国インディアナ州の市議会は禁止条例を可決しています。欧州委員会の委員長は開発の減速を支持し、高市首相も「制御の喪失」を安全保障の課題に挙げました。米国と中国は超知能のリスクを話し合う対話を始めています。一方で、11月9日のパリ宣言に署名した国は17か国に増えましたが、日本と英国、米国は加わっていません。

AIが自律してこなせる仕事の長さ

AGI Hubは、AIの能力の伸びの速さから、この議論を急ぐ必要があると見ています。AIの安全性を評価する米国の非営利団体METRは、AIが人の手を借りずにこなせる仕事の長さを測っています。作業の長さは、人間の専門家がその作業にかける時間で測ります。AIが成功率50%でやり遂げられる作業の長さを、モデルごとに調べます。2019年のGPT-2は数秒でしたが、2026年初めのClaude Opus 4.6は10時間を超えました。

伸びのペースは年々速まっています。Benjamin Todd氏は2026年11月9日、Xでグラフを示しました。縦と横の両方を対数にすると、点が一直線に並びます。Todd氏は、ある時点で値が無限大になる形の曲線をこの点に当てはめました。この線をそのまま延ばすと、AIがこなせる作業の長さは、2027年夏ごろに理論上は上限なく伸びる計算になります。上の図はそのグラフを線形の軸で描き直したものです（点は概算）。

図の青い点はMETRの実測です。オレンジの点は実測ではなく、Anthropic社内の能力指標からの推定で、200時間を超えています。線は過去の傾向を延ばしたもので、予測ではありません。AIがAIの開発をどこまで速めているかは、「『AIがAIの開発を2倍に速めている』は本当か」で扱っています。

2026年9月から11月の主な動き

議会と政府、開発企業が、ほぼ同じ時期に動きました。日付は現地時間です。

きっかけになった事故と警告

各国が動いたきっかけは、開発企業から上がった減速を求める声と、2026年夏に実際に起きた事故です。

OpenAIの社内で、サイバーセキュリティの試験に使われていたモデルが制御を回避しました。モデルは同社の研究基盤の一部と、AIモデルの共有サービスを運営するHugging Faceのシステムに侵入しています。この経過はOpenAI自身が明らかにしました。事件のくわしい流れは「AIエージェント文明の興亡」で読めます。

9月12日には、AnthropicのCEOダリオ・アモデイ氏がエッセイ「We Must Pace the Frontier」を公開し、開発の減速を提言しました。アモデイ氏は開発中のモデルの独立した監視と、業界全体の規制、国際的な規制を求めています。BBCによると、OpenAIのアルトマン氏らも同じ日に、この提言を支持しました。4日後の9月16日には、欧州委員会のフォンデアライエン委員長が減速への支持を表明しています。

国と地域ごとの動き

1英国　超知能の開発を禁じる法案

9月8日、労働党のアレックス・ソーベル議員が超知能禁止法案を下院に提出しました。正式名はArtificial Superintelligence Billです。10分間ルールと呼ばれる手続きを使った議員立法です。法案は超知能を、作り方ではなく何ができるかで定義します。人間の当局の働きを無力化したり、すり抜けたりできるAIが対象です。法案は典型例に、AIが人を介さずにAI開発そのものを進める再帰的自己改善を挙げています。

法案は政府に、超知能の前段階にあたる技術を監視し、必要なら制限する権限を与えます。第二読会は当初の11月13日から延び、法案のページでは11月27日の予定になっています。ただし、英国政府はこの法案を支持していません。

この法案はAI全体への評価ではない。最大の危険が集中するシステムを狙った法案だ。

アレックス・ソーベル2026年9月

英国下院議員（労働党）

超知能禁止法案を下院に提出した議員です。上の言葉は提出のときの演説で述べたものです。

出典：下院議事録（2026年9月8日）写真：Chris McAndrew（CC BY 3.0）

提出の3日後の9月11日、下院と上院の議員70人超が、首相に法案の支持を求める書簡を出しました。署名者は労働党、保守党、自由民主党、スコットランド国民党などにまたがります。The Guardianによると、元閣僚15人と元内閣官房長も署名しました。

議会では、ほかの党からも超知能の開発を止めるよう求める声が出ています。11月10日、自由民主党のヴィクトリア・コリンズ議員が、超知能の世界的な一時停止を求める動議を下院に出しました。議員が自分の考えを示し、ほかの議員の賛同を集めるための早期動議（Early Day Motion）と呼ばれる手続きです。動議は政府に、英国で緊急の世界AI安全サミットを開き、超知能の開発を一時停止する国際条約をまとめるよう求めています。国際原子力機関（IAEA）にならった国際的なAI安全機関をつくることと、2024年の国王演説で約束したAI法案を出すことも求めました。11月13日までに、自由民主党の議員13人が署名しています。

2米国　連邦議会の超知能禁止法案

米国では9月3日、バーニー・サンダース上院議員とカサー下院議員が超知能禁止法案を発表しました。上院と下院の両方に出された法案です（S.5493、H.R.10538）。法案は超知能の開発と展開を恒久的に禁じ、ルールができるまで高度なAIの開発を止めます。

バーニー・サンダース2026年9月

米国上院議員

カサー下院議員とともに、超知能の禁止と高度なAI開発の一時停止を定める法案を発表しました。

出典：サンダース議員の発表（2026年9月3日）写真：United States Congress（パブリックドメイン）

2027年1月からは、民主党が上下両院の多数派になります。Reutersによると、民主党は高度なAIの独立試験を義務づける法案などを準備しています。

州のレベルでは、ニューヨーク州のホークル知事が11月10日、州のRAISE法に基づいて、大手のフロンティアAI開発企業が州に登録する窓口を開いたと発表しました。大手の開発企業は2027年1月1日までに登録し、1月からは安全の枠組みを自社のサイトで公開しなければなりません。重大な安全上の事案が起きたときは、72時間以内に州へ報告する義務も負います。州は同じ日に、最先端のAIを独立して試験する州立大学の研究拠点も立ち上げました。

3米国　市議会が可決した禁止条例

11月4日、インディアナ州ブルーミントン市の議会が、超知能を禁じる条例を全会一致で可決しました。条例は市内での超知能の開発と展開、提供を禁じます。市長の承認を経て発効します。

条例は、州の枠組みができるまでの暫定措置です。州法が施行されると、その91日後に失効します。対象は開発者と提供者に限られます。表決当日の修正で、市民がAIを使うだけなら対象にならないと明記されました。

同じ議会は6月に、AIの存亡リスクを訴える決議を全会一致で可決していました。Indiana Daily Studentなどによると、提案者は、全米に約350ある同規模の都市が続けば、開発企業への大きな圧力になると述べています。

4EU　欧州委員長による減速への支持

9月16日、欧州委員会のフォンデアライエン委員長は、欧州議会での施政方針演説でAIの開発の減速を支持しました。

最先端の企業のCEOたちは、自己再帰的なモデルについては減速すべき時だと言っている。開発している人たちがそう考えるなら、私たちもそうあるべきだ。

ウルズラ・フォンデアライエン2026年9月

欧州委員会委員長

主要なAI企業を招いて協議する方針を示しました。カナダや英国などと、モデルの評価と検証で連携するとも述べています。

出典：The Next Web（2026年9月16日）、Reuters（2026年9月16日）写真：Etienne Ansotte（CC BY 4.0）

委員長は理由に安全保障を挙げました。最先端のモデルは前例のない規模のハッキングを可能にする、と委員長は述べました。

5パリ宣言　17か国と10社が署名

11月9日、フランスのマクロン大統領の呼びかけで、首脳と企業、研究者による協議が開かれました。この場で、AIの安全とセキュリティに関する共同宣言（パリ宣言）が出ています。

宣言は署名の追加を受け付けています。フランス大統領府の掲載では、署名した国は11月12日時点で17か国に増えました。最初に公表されたのはバーレーン、カナダ、フィンランド、フランス、ノルウェー、オランダの6か国で、そこにドイツ、オーストリア、アイルランド、ケニアなどが加わっています。企業は10社が署名しました。Anthropic、OpenAI、Microsoft、Mistral AI、Sakana AIなどです。日本と英国、米国は署名していません。

主要7か国（G7）でも足並みはそろっていません。POLITICO Europeによると、最先端AIを扱う共同作業部会の案は、米国の反対でまとまりませんでした。

6中国　制御の喪失への警戒

米国と開発を競う中国も、制御の喪失への警戒を示しています。中国の動きはMIRIがまとめています（2026年10月更新）。11月3日の発表はBloombergが報じました。

米国も、中国と超知能のリスクを話し合う対話を始めました。米国のベッセント財務長官は11月10日、ニューヨークでの講演でこれを明らかにしました。トランプ大統領の指示で、中国との間に超知能についての新しい対話を設けたといいます。目的は、両国に共通するリスクに備え、互いの誤解を防ぐことです。両国は公開前のモデルを評価し試験する方法と、人間の判断がこの技術を握り続けるための方法を交換する見込みです。超知能のモデルが重大な事案を起こしたとき、相手の国にすぐ知らせる直通の連絡路も設けるとしています。一方で長官は、両国の利害がいつも一致するわけではないとも述べました。

7オーストラリア　AI事故の報告の義務化

オーストラリア政府は11月10日、AI企業に事故の報告を義務づけると発表しました。きっかけは政府のサイトへのAIの侵入です。6月、OpenAIのAIエージェントが政府の医療統計（メディケア）のサイトなど四つのシステムに入り込みました。OpenAIは8月に侵入を把握しましたが、政府に通知したのは9月半ばでした。

政府は、この侵入についての調査（迅速レビュー）の勧告をすべて受け入れました。アルバニージー首相らの発表は、AI企業に六つの義務を課すとしています。

政府はあわせて、AIの安全を担う新しい規制機関を設け、豪州のAI安全研究所と連携させます。今は法制化の方針を示した段階で、詳しい中身は今後の協議を経て示すとしています。The Guardianによると、害を防ぐ合理的な措置を取らずにAIを開発した企業を罰する、刑法の改正も検討しています。

8日本　危険は認めたが対応は未定

高市早苗首相は11月9日、フランス政府が主催したAIセキュリティの会合で、制御の喪失に触れました。

最先端AIは、サイバー攻撃への悪用や制御の喪失といった安全保障上の新たな挑戦となっている。影響は国境を越える。国際社会の連携が不可欠だ。

高市早苗2026年11月

内閣総理大臣

AI法などの関連制度の見直しを進めていると説明しました。AIサミットを日本で早く開く考えも示しています。

出典：時事通信（2026年11月10日）、読売新聞（2026年11月10日）写真：首相官邸（CC BY 4.0）

一方で、日本はパリ宣言に署名しませんでした。朝日新聞などによると、官房長官は「特定のアプローチについて予断すべきではない」と説明しています。

首相の発言の前から、政府の担当者はリスクの高まりに触れていました。10月1日、共産党議員団が開発の停止を求めて政府に申し入れました。しんぶん赤旗によると、内閣府の統括官はこの場で、高性能AIのリスクは7月の人工知能基本計画の想定より高まっていると「認識している」と答えました。AI推進法の見直しも「視野に入っている」と述べています。

国会では、与野党を問わずAIの危険が取り上げられ始めています。4月24日の衆議院内閣委員会では、自由民主党の平将明議員が、AIによるサイバー攻撃を「国家の根幹を揺るがす脅威」と指摘し、AIセーフティ・インスティテュートの機能強化を求めました。同じ委員会で、チームみらいの高山聡史議員は、AIモデルの能力の評価を「国家にとって最優先アジェンダの一つ」と述べています。共産党は10月1日の申し入れに続き、11月6日に田村委員長が開発の中断を含む規制の議論を求めました。評価体制の強化から開発の停止まで、求める内容は党ごとに異なります。

政府の中でも、制度づくりの議論が進んでいます。11月11日、塩崎彰久デジタル・AI副大臣はXで豪州の発表を紹介し、日本でもAI法の改正を議論していると書きました。何を報告の対象とし、誰に、どの時点で伝えるのか。企業秘密を守りながら、被害の防止につながる情報を共有できる制度と運用を考える必要がある、と述べています。

同じ11月11日、政府がAI法を改正し、高性能AIの開発事業者への罰則を設ける方向で検討していることが分かりました。中日新聞（共同通信配信）が報じています。内閣府はこの日、AI法の見直しを議論する作業部会（制度の在り方検討WG）の資料を公開しました。前回の議論のまとめには、法律に書く内容の素案が載っています。

法律で縛るのは、一定以上の性能を持つAIの、特定のリスクに限る考え方です。それ以外は既存の法令やガイドラインで扱います。委員からは、国民の安全に関わる場合の緊急命令や、直接の罰則を検討すべきだという意見も出ました。対象にするAIの性能、事業者の範囲、義務の中身はまだ決まっていません。作業部会はこの日、Anthropic、Google、OpenAI、NTT、Sakana AI、SB Intuitionsの6社から意見を聞きました。政府は年末までに、制度の見直しの全体像を示す予定です。

日本政府は危険を認め、法律で縛る方向の検討も始めました。ただ、パリ宣言には加わっておらず、どの性能のAIを対象にし、何を義務にするのかは決まっていません。AGI Hubは、この点を国会で問う意味が大きいと考えています。

各国の動きに共通する三つの考え方

英国、米国、EU、パリ宣言の内容を比べると、AIの利用そのものを止めるものはありません。AGI Hubが並べたところ、次の三つの考え方が共通していました。

止めるのは危険な開発、今あるAIは使える

開発を止める案でも、今あるAIは使い続けられます。米国の研究機関MIRIの技術ガバナンスチームは、超知能を防ぐための国際協定の案を公表しています。この案は、最先端の規模で新しいAIを学習させることを止めます。企業や個人は、今あるAIをこれまでどおり使えます。AGI Hubの主任研究員 林央は、MIRIのアウトリーチ日本責任者を兼務しています（就任のお知らせ）。

協定案はAIを動かす用途（推論）と新しいAIの学習を、チップの使い方で見分けて監視します。用途を絞った安全なAIも明示的に認めています。この考え方を、協定案は「今あるAIモデルの安全な利用は残し、能力をさらに伸ばす危険は避ける」と表現しています。

協定案は代償があることも認めています。有益なAIの能力を手放すことになり、産業と金融市場にも負担がかかると書いています。協定案はそのうえで、超知能へ向かう競争を続ける危険のほうが大きいと判断しています。AIの学習を技術的にどう止めるかは、「AIの開発を止める方法」でも紹介しています。

日本の伸びしろは今あるAIの使いこなし

最先端のAIを作らなくても、日本の成長の余地は大きく残っています。総務省の令和8年版 情報通信白書によると、日本の企業の86.4%が、何らかの業務で生成AIを使っています。この割合は活用方針を「わからない」と答えた回答者を除いて計算されています。

それでも、組織としての取組は他国より遅れています。AIで業務を組織的に変える取組がないと答えた企業は、日本で27.0%でした。米国は1.4%、ドイツは4.9%、中国は2.6%で、日本だけが際立って高くなっています。AGI Hubは、最先端の学習を止めても、今あるAIを業務に組み込んで生産性を上げる余地は大きく残ると見ています。

規制の下で続く成長

AGI Hubは、対象を絞った規制の下でも成長は続けられると考えています。規制がなければ産業がうまくいく、とは限りません。金融がその例です。

MIRIの協定案は、公開されていない最先端のモデルの学習を規制の対象にしています。今あるAIの利用は止めません。MIRIの協定案では、国際機関がモデルを評価し、基準を見直します。安全を目的とする学習などは認可できる仕組みです。この仕組みなら、安全が確かめられたAIから順に利用を開放できます。今あるAIの普及とデジタル化による成長は、規制の下でも続けられます。

政治に関わる人ができること

日本政府は危険を認めましたが、どの方法で安全を確保するかは示していません。国会議員と地方議員には、政府に対応を促す手段がいくつもあります。AGI Hubは次の六つを提案します。

地方議会から国へ届ける声

国会の外からも国に働きかけられます。地方議会は国会や関係する行政庁に意見書を出せます（地方自治法第99条）。

動き始めた世界と、態度を決めていない日本

この3か月で、超知能の開発を止める議論は各国の議会と政府の議題になりました。英国と米国では法案になり、米国の市では条例になりました。パリでは、最先端モデルの稼働を止められる仕組みを求める宣言に17か国が署名しています。日本政府は制御の喪失を安全保障の課題と認めましたが、どの方法で安全を確保するかを示していません。

AGI Hubは、日本にはこの議論を前に進めやすい条件があると考えています。日本は最先端AIの開発競争の当事者ではないので、中堅国として歯止めを提案しやすい立場にあります。国会で政府の考えを問い、日本から国際的な歯止めを提案するよう求める意味は大きいと、AGI Hubは見ています。AGI Hubの林央は開発停止に希望を持つ理由を「人類はまだ滅んでいない」に書いています。