執筆の過程で、数百人に本文を読んでもらった。そのうち一部の方々は、このウェブサイトで名前を挙げて謝意を示すことに同意してくれた。以下の皆さんに感謝する。

Ada Lin、Adam Binksmith、Aidan O'Gara、Ajeya Cotra、Alice Schwarze、Alvin Ånestrand、Andreas Stuhlmüller、Anton Korinek、Aryan Bhatt、Augene Park、Ben Hayum、Ben Hoskin、Buck Shlegeris、Carl Shulman、Caroline Jeanmaire、Cheryl Luo、Coby Joseph、Daan Juijn、David Kasten、Evan R. Murphy、Gary Marcus、George Adamopoulos、Gretta Duleba、Harrison Durland、Helen Toner、Holden Karnofsky、Ilene and John Pachter、Jack Morris、Jacob Lagerros、James Campbell、Jeffrey Wu、Joe Carlsmith、John-Clark Levin、Jonathan Happel、Jonathan Mann、Joseph Rogero、JS Denain、Julian Hazell、Jun Shern Chan、Ken Lifland、Kendrea Beers、Kyle Scott、Laura King、Lukas Finnveden、Lukas Gloor、Malo Bourgon、Matt Chessen、Matthew Kenney、Mauricio Baker、Miles Brundage、Nate Foss、Neel Nanda、Nicky Case、Nikola Jurkovic、Nuño Sempere、Ollie Stephenson、Oscar Delaney、Peter Hartree、Ramana Kumar、Richard Ngo、Rishi Gupta、Rose Hadshar、Rosie Campbell、Ryan Greenblatt、Sam Bowman、Samuel Hammond、Sebastian Schmidt、Siméon Campos、Sören Mindermann、Steve Newman、Steven Adler、Thomas Woodside、Tim Fist、Tolga Bilge、William MacAskill、Yoshua Bengio、Zershaaneh Qureshi、Zvi Mowshowitz。

2025年8月更新：賭けと懸賞金の応募は、現在受け付けていない。

このシナリオについて大いに議論し、反論してほしい。私たちがどこへ向かっているのか、そして良い未来へ向けてどう舵を取ればよいのかについて、幅広い議論を巻き起こしたいと考えている。それを促すため、賭けと懸賞金のプログラムを始める。

• 私たちの研究に誤りを見つけたら、100ドルを支払う。

• 重要な予測について私たちの考えを改めさせ、その考えなら当初からシナリオを大きく違う形で書いていただろうと言えるほどであれば、少なくとも250ドルを支払う。

• 予測について意見が異なるなら、ぜひ賭けを成立させたい。

• 質の高い代替シナリオを書いてくれたら、2,500ドルを支払う。私たちの基準を満たす過去の代替シナリオには、たとえばHow AI Might Take Over in 2 Years、A History of The Future、AI and Leviathanがある。

詳しくはこちらを参照してほしい。

私たちは、AGIの開発をシミュレートする机上演習（tabletop exercise、TTX）を作り、改良を重ねながらこれまでに30回以上実施してきた。AGIがどのような経過をたどりうるかを私たち自身が考えるうえで役立っており、多くの参加者も同じように感じている。過去の参加者には、OpenAI、Anthropic、Google DeepMindの研究者や、連邦議会のスタッフ、ジャーナリストがいる。

TTXは、私たちのシナリオの2027年4月から始まる。米国のあるAGI企業が、超人的コーダー（superhuman coder、SC）を作り上げたところだ。中国はすぐ後ろに迫っており、そのAIの重みを盗み出して、自前で動かせるようになっている。両陣営とも、社内の研究が大幅に加速しつつある。

この時点から始めるのは、ここが私たちのシナリオのなかで、多少なりとも確かな予測だと感じられる最後の時期だからだ。自動化された研究エンジニアを誰かが作る前に、政府が大規模に介入する可能性は低い。近い将来、どのAGI企業のセキュリティも中国を阻止できるほど強固になる可能性は低い。そしてAGI競争は、差が縮まりつつあるように見える。しかし2027年4月以降は、主要国の政府が極端な手を検討するようになる。

TTXは毎回違った展開をたどる。大半の回は、超知能の開発に至って終わる。政府が手をこまねいたまま、首位の企業に権力を明け渡すこともある。AGIが人間の意図に従うこともあれば、ミスアラインしていることもある。サイバー攻撃は毎回起き、台湾が侵攻されることもあり、少数ながら全面的な第三次世界大戦にまで発展した回もある。

この演習を実施したい（あるいは私たちに実施を依頼したい）場合は、こちらのフォームに記入してほしい。演習の所要時間は4時間で、8〜14人で行える。