以下は著者本人（AGI HUB共同代表）による note 掲載記事の全文です。原文（note）はこちら。
高度なAI（特に汎用人工知能（AGI））が軍事や国家安全保障の文脈で語られることがこの1年で増えつつある。AIというテクノロジーが国家の力関係を一変させるかもしれないという危機感は、まさに第二次世界大戦中のマンハッタン計画や東西冷戦時代の核軍拡競争を想起させる。
2024年6月末にはOpenAIは香港を含む中国のデベロッパーに対し、同社のAPIプラットフォームへのアクセスを禁止した。
これらニュースは東側のAIの学習/利用/重み/人/AIインフラを安全保障上西側が規制管理する世界への布石なのかもしれない。
AIの学習に西側の計算資源を使われたり、重みを盗まれることだけでなく、東側による西側の高度なAIシステムの利用だけでも高品質な合成データを彼らに作られてしまい、それを学習に利用される可能性があり安全保障上の問題になるだろう。
それを防ぐために、高度なAIシステムのオープンソース化を規制し、計算資源のアクセスを管理し、利用者を同盟国のみまたは特定組織のみに制限する。
こういったAI版ベルリンの壁（鉄のカーテン）もしくはAI版グレートファイヤーウォールとも言えるような仕組みが東西それぞれで作られ、今後2020年代後半から世界はAIを巡る東西冷戦に突入する可能性がある。
このような話は米中デカップリング/貿易戦争/テクノロジー冷戦という名前でこの10年語られてきたことだ。しかし、AGI開発やその普及に先行した側が、他国の核戦力を先制的に無力化できるような軍事テクノロジーや他国を圧倒する経済力を獲得するかもしれない、という根本的に次元の異なるシビアな世界観がもうすぐやってくるかもしれないということだ。
そして新たな「武力の均衡」がどのように担保されるのか分からない不透明感は、東西冷戦期の核開発競争にも通じるキューバ危機のような緊張感を生み出す。
核開発競争は一応の均衡点に達し、「相互確証破壊（MAD）」の理論によって大国間の直接的な核戦争は回避されてきた。
しかし、AGIの開発競争では、そのような均衡点がどこにあるのかはまだ見えていない。むしろ、AGIはその自己改善可能な特性から「制御可能な均衡」を超えてミスアライメントリスクや悪用リスクや戦争のエスカレーションリスクを東西を超えた中東や第三世界が生み出し続ける可能性もある。
現状はUAEやサウジアラビアは米国に親和的であり、グローバルサウスへの影響力を強めようとしているが、今後どうなるかは分からない。
またテロ組織、さらには個人レベルでの悪用リスクも深刻化していくだろう。
クラウドや合成データ、バイオ・ケミカル分野との組み合わせによって、国家の規制網をかいくぐりながら破壊的な行為を行うハードルが下がるかもしれない。ニック・ボストロムの「脆弱な世界仮説」が示すように、個人や小規模グループが文明全体を脅かす技術を手に入れるリスクが、東西冷戦型のブロック構造を超えて増大する可能性がある。
こうした状況では、権威主義国家VS.民主主義国家という対立図式だけでなく、テロリストや犯罪組織、はたまたAIに興味をもつ小規模の非国家主体などが、先端技術を迅速に取り込み、破壊的な兵器やサイバー攻撃の手段を開発する恐れが高まる。
従来の核抑止の理屈が通用しづらいAGIの時代には、各国がいくら壁を築いても、抜け道を見つけるアクターは常に存在し得る。東西冷戦期のように大国同士の相互抑止が働くAI版ベルリンの壁の構図から、無数の「脆弱ポイント」が世界各地で生まれそれを防ぐために全世界を監視するシステムが樹立される——まさにボストロムの警告するディストピア的シナリオも現実味を帯びてくるのかもしれない。