以下はAGI Hub公式note掲載記事の全文です。本文中の肩書・表記は原文公開時のものです。原文（note）はこちら。

以下動画の要約です。

Video 1

【8時間徹底討論】AIと共存する社会は作れるのか？ Accelerationist Yatima vs Doomer Akira

「AIによって人類が滅亡する確率＝p(doom)は、どれくらいなのか？」

AGI Hubでは前回、代表のbioshokとCAOのAkiraが約6時間にわたってこの問題を議論しました。

https://note.com/agi_hub/n/n2ca4bc5d371a

そして第二弾として8月9日、今度はAGI Hub共同代表でAccelerationist（加速主義）寄りの Yatima と、AI開発をこのまま続ければほぼ確実に人類は生存できないと考える Akira が対談。

途中bioshokも加わりながら、最終的に約8時間に及ぶ議論となりました。書き起こしは約27万字あります。

https://note.com/agi_hub/n/n271403c7e422

今回の議論が面白かったのは、単なる

「AIは危険か、安全か」

という対立ではなかったことです。

Yatimaが最初に提示したのは、

そもそもAIを完璧にAlignmentしなくても、人間社会と同じように、セキュリティ・権限分離・法律・社会制度によって共存できるのではないか？

という別の生存ルートでした。

しかしそのルートをAkiraと一つずつ検討していくにつれ、

「思っていたよりAlignmentを回避すること自体が難しいのではないか」

という問題が浮かび上がっていきます。

登場人物

Yatima

AGI Hub共同代表。

AIの急速な能力向上や再帰的自己改善そのものには比較的肯定的で、Accelerationist寄り。

今回の対談前には、AIを完璧にAlignmentするよりも、人間社会のように複数の主体を制度・セキュリティによって共存させる方法に期待を置いていました。

Akira

AGI Hub CAO（Chief Alignment Officer）。

十分な規制や長期停止なしに強力なAI開発が進めば、人類絶滅に至る可能性をほぼ100%と考えるDoomer。

今回もYatimaの提示する生存ルートについて、

「それは具体的にどう成功するのか？」

を一つずつ検討していきます。

bioshok

AGI Hub共同代表。

第一回p(doom)討論ではAkiraと6時間議論し、特にAlignment by Defaultなどについて悲観側へ更新。

今回の冒頭約30分では、その第一回討論の論点を整理してからYatimaへバトンタッチしました。

1. Yatimaの生存戦略――「Alignmentを解かずに社会を作る」

Yatimaの出発点は、かなり面白いものでした。

そもそも人間だって、完全に「Alignment」されているわけではありません。

犯罪をする人もいれば、他人と価値観が違う人もいる。

それでも現代社会がある程度成立しているのは、

といった社会的・技術的な制約があるからです。

ならAIについても、

AIの心を完璧にAlignmentする

            ↓

ではなく

            ↓

AIごとに権限を制限する
重要施設を隔離する
危険なAIにはアクセスさせない
法律・ルールで行動を制約する