プランAの要約

AI企業は、あらゆる面で人間より賢いAIの開発を競っている。私たちは『AI 2027』で、この競争が人類の絶滅か、後戻りできない権力集中を招くという、許容できないリスクをはらむと予測した。

プランAは、その代わりに何が起きるべきかを描いた、私たちの前向きなビジョンだ。国際的な連合を組み、超知能が人類を滅ぼさないと確信できるまで、その開発を遅らせる。プランの全体はai-2040.comで読める。

プランAの基本原則

世界中のAI関連の計算資源を突き止める。 計算資源のサプライチェーンを監査し、存亡に関わるほど危険なAIの構築に使われかねない「闇の計算資源」の量に上限を見積もる。
より優れた検証技術を開発するあいだ、AIの学習を一時停止する。 この期間に、セキュリティと検証の仕組みを強化した研究開発用データセンターを新たに建設する。
セーフティケース（安全性の論証）に基づく規制と研究の完全な透明性のもとで、研究開発を再開する。 企業は能力を向上させる前に、そのリスクがきわめて低いことを論証しなければならない。

プランAに備え、より広くはAIの未来をよりよいものにするために、次の行動をできるだけ早く取ることを勧める。

一般市民と政府に対する透明性： 社内で使われているモデルと一般に公開されているモデルの差を小さく保ち、社会が最先端の能力を把握して対応できるようにすることが重要だ。ほかにも、モデル仕様書、内部告発者、社内での利用状況に関する情報などを透明性の対象にすべきだ。
政府のAI対応能力： 米国政府には十分なAI人材がいない。早急に改善すべきだ。
AIの計算資源の追跡： 米国は、AIに関わる情報、とりわけ計算資源のサプライチェーンとAIデータセンターについての情報の収集と分析を最優先にすべきだ。
輸出規制の執行： 米国の現行の輸出規制は十分に執行されておらず、中国の計算資源の3分の1は密輸で入手されている。密輸されたチップは追跡が難しく、プランAのような合意の執行を困難にする。
検証の研究開発： たとえば、推論だけを検証する仕組みを開発できれば、一般の人々が既存のAIモデルを使い続けられる状態を保ったまま、米国と中国が最先端AIの新たな学習実行をやめることに合意できるようになる。

ダニエル・ココタイロ（Daniel Kokotajlo）、AI Futures Project事務局長。daniel@ai-futures.org