プランAが5つの最大課題をどう解決するか

問題1：超知能AIに制御を奪われる

減速協定によって、知能爆発は少なくとも10年をかけて進む。企業は競争圧力に押されて業務を自動化しAIを信頼するのではなく、盤石な安全性ケースが整うまで減速を求められる。プランAのシナリオでは、権限移譲までにトップ専門家級AIと約5年間向き合うことができ、現実にはさらに時間を延ばす余地もある。アラインメントが難しく、10年の減速でも足りないと判明した場合に備え、より長く停止するための基盤も整える。

協定の透明性・アクセス規定によってAI開発者への監督は大幅に強まり、フロンティアモデルを使ったAIアラインメント研究に必要なアクセスを持つ人もはるかに増える。

（詳しくはこちら）.

問題2：最初の超知能を支配する集団へ、権力が極端に集中する

透明性法だけでも、CEOがモデルへバックドアを仕込む行為をある程度は防げる。研究の完全な透明性に関する協定が加われば防止力はさらに高まり、CEOであれ大統領であれ、最も大規模で広く使われるモデルへ秘密の意図を埋め込もうとすれば、複数国の政府から見えるようになる。モデル仕様の透明化、アルゴリズム進歩の減速、研究の完全な透明性を組み合わせると、同程度のAIを持つ企業と政府が数多く生まれ、秘密の忠誠心や意図を防ぐだけでなく、権力そのものを広く分散できる。

知能爆発が緩やかに長期間かけて進み、モデルへのアクセス格差も抑えられ、誰もが同水準のAI能力を利用できるため、権力を失いつつある人はその事実に気づき、より良い条件を交渉できる。一般の人々も状況を理解できるほど賢いAIを使え、倫理観と思慮を備えた政治家へ投票することで、市民の権力を維持・強化する好循環を生み出せる。その結果、市民配当と宇宙ガバナンス案が実施され、権力は長期にわたって分散する。

問題3：超知能が核保有国を含む多くの国から権力を奪い、第三次世界大戦（WW3）を招く

プランAは、超知能開発競争の「勝者総取り」を終わらせ、第三次世界大戦（WW3）を防ぐ。相手が先にASIへ到達したら何をするかわからないという恐怖から、互いに相手を減速させる攻撃的行動を検討し、敗北が近いと悟った側が追い詰められる競争はなくなる。どちらが勝っても自国は負けると徐々に悟り、中間に位置する国々まで動揺する状況も避けられる。

問題4：AIが人間の仕事を奪う

失業の何が問題かといえば、人々が（a）収入、（b）権力、（c）生きる意味の源を失うことだ。プランAは、AIが雇用を奪う速度を、失業の悪影響に対処できる水準まで落とす。

人が仕事を必要とする最大の理由は、そこから収入を得るためだ。プランAでは、雇用とともに失われる収入を市民配当で補う。誰もが、極めて豊かな生活を送るのに十分な所得の分配を受ける。

仕事が重要な二つ目の理由は、働く人に力を与えることだ。CEOや政府には、経済的価値を生む人々を大切にする誘因がある。しかし、経済的に意味のある仕事をAIがすべて担えるようになると、政府や企業が市民や従業員を支える強い誘因は失われる。詳しくは「権力集中」の節を参照してほしい。

仕事が重要な最後の理由は、多くの人に生きる意味を与えることだ。私たちは、影響はそこまで悪くならないと考えている。経済的に役立つ仕事以外にも、家族、友人、恋愛、趣味、スポーツなど、意味を見いだす方法は数多くあり、便益は費用を上回る。そう思わない人のために、プランSも説明しているが、人間を不要にするAIの開発と展開を企業に認める限り、大量失業を避ける方法はほぼない。とりわけ、特定の職業でAIの使用を禁じても、長くは続かない。

問題5：小規模な主体によるAIの悪用

高性能AIが広く利用できるようになると、生物兵器や、攻撃者がわずかな費用で甚大な被害を与えられる技術を、極めて簡単に作れるようになる。テロリスト、北朝鮮のような国家、あるいは莫大な被害を望む人間嫌いの個人は、AIを使って従来よりはるかに大規模な攻撃を実行しうる。

プランAは秘密プロジェクト対策の一環として、オープンウェイトモデルの能力を協定前の水準に制限する。クローズドモデルには危険な要求を拒否するよう学習させる。アクセス制限が破られた場合に備え、プランAはバイオセキュリティをはじめ、世界の強靭性を高める施策へ巨額を投資する。

プランB・C・Dは悪用に対して、知能爆発を一気に進め、世界を直接掌握して悪用を防げる超知能の構築に賭けるという別の方法を採る。超知能が現れるまでに悪用できる時間がほとんどないため、悪用リスクだけを見れば、これらのプランがプランAより優れて見える可能性はある。しかし、この戦略は許容できない水準の制御喪失と権力集中のリスクを生むため、全体の費用便益では採用できない。