AGI Hub主任研究員(Chief Alignment Officer)の林央が2026年8月11日にXで公開した投稿の全文です。原文(X)はこちら。

私はDoomer(AIによる人類滅亡を警告する人)として知られています。
このまま超知能ができたら、人類はほぼ確実に滅びると考えているからです。
しかし、超知能開発を停止すれば、アラインメントを解いて、素晴らしい未来を享受することができると心から信じてもいます。
この世界にはまだ希望があります。
人々が危機に目覚め、行動すれば、生き残ることができます。

📘 この記事に出てくる言葉(Doomer・アラインメントなど7つ)
  • 嵐の雲が近づく町を見つめる人 Doomer(ドゥーマー) このままAIの開発が進めば、人類が滅びる可能性が高いと考える人を指す呼び名です。AIで人類が破局を迎える確率(p(doom))を高く見積もる人のことです。英語の「doom(破滅)」から来た言葉です。
  • 小さな人々の上にそびえる大きな頭脳 超知能 ほぼすべての分野で、人間をはるかに上回る知能を持つAIです。ASI(人工超知能)とも呼びます。
  • 方位磁針の針を人の進む向きに合わせる手 アラインメント AIの目標や振る舞いを、人間の意図や価値観に沿わせることです。人間より賢いAIでこれを確実に行う方法は、まだ見つかっていません。
  • サーバーの前に立つ一時停止の記号 開発停止 超知能につながる最先端のAIの開発を、国同士の取り決めで止めることです。林央は、アラインメントが解けるまで止めるよう求めています。今あるAIを使うことまで止める話ではありません。
  • 一時停止の印が付いたアカウントを表示するスマートフォン ⏸️マーク 開発停止に賛同する人が、Xのアカウント名に入れている一時停止の記号です。林央のアカウント名にも付いています。
  • 医療用の機械、自動運転車、ロボットアーム 特化型AI 画像診断や自動運転のように、決まった用途のために作られたAIです。何でもこなす汎用のAIとは区別されます。
  • ロボットがロボットを組み立てる工場 産業爆発 AIとロボットが工場やロボットそのものを作るようになり、生産の基盤が急速に増えていくことです。

米中は合意できる データセンターは隠せない

巨大なデータセンターへ歩いていく監査団

国際的な開発停止は可能です。
アメリカと中国が合意することは十分にありえます。
トランプも習近平も、中国共産党も民主党も共和党も、超知能に殺されることを望んではいません。
必要なのは危険を認識することだけです。
開発停止に米中が互いを信頼する必要はありません。
新しいAIの開発には巨大なデータセンターが必要です。
巨大なデータセンターを隠すことはできません。
データセンターに互いに監査団を送り込むことで開発停止を検証することができます。

停止した世界はディストピアではない 今あるAIは使い続けられる

医療AIとロボットアームが診察を手伝うクリニック
自動運転車と配達ロボットが走る穏やかな街

開発停止された世界はディストピアではありません。
巨大なデータセンターの監視に秘密警察も世界政府も必要ありません。必要なのは条約と監査団です。
今あるAIは使い続けられます。
医療、自動運転、ロボットなどの特化型AIは開発も続けられます。
チップの製造も続けることができます。
社会も、適応する時間を手に入れることができます。
今あるAI、そして特化型AIが、世界中に普及した、かつて人々が夢見た未来が現実になります。
慎重に進めば、産業爆発すらできるかもしれません。
それに、開発停止は永遠ではありません。
アラインメントが解決するまでの間だけです。

アラインメントは可能だ ロケットは安全に飛ぶ

発射台から飛び立つロケットを見守る技術者たち

アラインメントは可能です。
ロケットについて考えてみてください。
そう、「大量の爆発物と酸素を薄くて軽い壁で囲い、中で爆発させて、空気がないところに人を高速で送り出す乗り物」についてです。
安全に飛ばすことなど到底不可能に聞こえる乗り物です。
しかし、ロケットは安全に飛びます。
月に人を連れて行ったことも、火星に探査機を運んだこともあります。宇宙ステーションを建設したことすらあります。
丁寧に構築された理論と慎重な工学的態度があったからです。
アラインメントも同じです。
丁寧に構築された理論と慎重な工学的態度があれば、成功させることができます。

世界は突然目覚める コロナのときのように

人の消えた大通りを、ひとりが歩いていく

世界は突然目覚め、動くことがあります。
私はよくコロナの時のことを思い出します。
最初に中国で感染者が出たという報道がされた際、世界はほとんど注目しませんでした。
その頃、専門家たちは感染者があっという間に爆発的に増加すると予想し、危機を訴えていました。
世界は聞く耳を持ちませんでした。
ほとんど何もしませんでした。
しかし、突然、世界は目覚め、行動しました。
緊急事態が宣言されました。
移動が制限されました。
多くの施設が病床の確保に使われました。
ほとんど全ての経済活動が停止しました。
莫大な痛みを伴ったにも関わらず、世界は動きました。
コロナ対策に比べたら、開発停止は驚くほど簡単です。

今、世界は目覚めつつある

ついこの前まで、AIによる絶滅リスクは最初期のコロナと同じような扱いでした。
専門家は危機を訴えていましたが、世界は聞く耳を持ちませんでした。
今、世界は目覚めつつあります。
アメリカではAIキルスイッチ法案が提出されました。
開発停止の準備を求める書簡に名だたるAI企業の従業員、幹部達が署名しました。
習近平は「人類がAIの制御を失わないこと」の重要性に言及しました。
世界は突然目覚め、動くことがあります。

あなたは無力ではない 一緒に戦いましょう

一時停止の印を掲げて、並んで前へ歩く人々

私は、私自身が、家族が、友人が、大事な人々が、超知能によって皆殺しにされるのを黙って待つつもりはありません。
我々を待ち受けているはずの素晴らしい未来が失われるのを黙って待つつもりもありません。
もしあなたが私と同じ気持ちなら、一緒に戦いましょう。
あなたは無力ではありません。
あなたは賛同を表明できます。
多くの方が開発停止に賛同を表明してくださったこと、そしてアカウント名に⏸️マークを入れてくださったこと、感謝してもしきれません。
タイムラインで⏸️マークを見るたびに、私の希望は強くなっています。
しかし、もしあなたがさらに戦ってくださるつもりなら、
あなたはこの危機について知り合いに伝えることができます。
この危機についてわかりやすく発信することも、政治家に危機感を訴えることもできます。
あなたなりの方法で貢献することもできます。
もしあなたが戦いたいと思っていて、どうしたらいいかわからないのなら、私に相談してください。私のDMはそのために開放されています。
私は、私達は、AGI Hubは、
あなたと共にあります。
あなたと共に戦えることを誇りに思います。
素晴らしい未来は実現可能だと心から信じています。

人類はまだ滅んでいません。戦いはこれからです。

AGI Hub Chief Alignment Officer 林 央