このシナリオを書くにあたって、私たちは多くのことを検討した。透明性を重んじる立場から、その考えをさまざまな補足資料としてここに公開する。なかには粗削りなもの、断片的なもの、推測にとどまるものもあるが、それでも公開する。どの程度の確信があるかは、各資料の冒頭に示すよう努めた。
これまでに寄せられた、プランAへの主な反論と質問への回答。
AIがもたらす5つの最大のリスクに、このプランがどう対処するか。
隠れたAIプロジェクトは協定をどれほど脅かすのか。どうすれば防止、検知、抑止できるのか？
米国と中国は、互いを信頼しないまま、どうすればAIの減速を守らせられるのか？
弊害を避けながら、意思決定者や一般の人々に必要な情報をどう共有するか？
コンソーシアムは2035年までに人間のトップ専門家並みのAIまで能力を拡大し、その後、権限移譲の前に一時停止に近いところまで減速する。
モデルの重み、検証の完全性、アルゴリズム上の機密について、プランAに必要なセキュリティ。
シナリオの土台となる主要な予測と提言、そしてそれぞれにどれほど自信があるか。
私たちが重視する指標で代替のプランを採点し、それぞれが良い未来につながる見込みを示す。
時間とともに協定が弱まるリスクが、能力をどれだけの速さで拡大すべきかをどう左右するか。
プランAの軌道を導いたAI Futures Modelの修正版と、操作できるエクスプローラー。
AIによって完全な自動化と爆発的な成長が起こると考える理由と、私たちの経済モデルの概要。
シナリオに出てくる計算資源の数値の根拠。
私たちの経済モデルを自分で動かして探れるエクスプローラー。
より長期的な未来に、宇宙の資源をどう配分しうるか。
AIを使って、人間の判断力と集団の意思決定をどう高められるか。
AIによる乗っ取りを避けるために必要なアラインメントの目標について、現時点で最善と考えるロードマップ。
検索に一致する補足資料はありません。