AGI・AI安全性のリサーチ・論考

代表 有路翔太（bioshok）が毎週、AIの主要ニュースを出典リンク付きでまとめた週刊ダイジェスト。

• AIニュースまとめ 2026年9月19日〜9月25日「米中首脳会談でAIを協議、OpenAIのインシデントが止まらない」

AIによる破滅確率の定義・主要論者・前提を整理し、AGI Hubメンバーが生存ルートを分解して議論した記事群。

• シンギュラリティサロン×代表 有路翔太・主任研究員 林央「超知能が人類を滅ぼす理由」全文書き起こし
• 好奇心は超知能による人類絶滅を防ぐか――代表 神楽坂やちま × 主任研究員 林央 内部Discord議論ログ
• p(doom)とは何か

AGIの到来を前提に社会と開発競争を見る「AGIピル」の視点と、Mythos・AI 2040シナリオの読み解き。

• AI 2040に対する「議論の地図」
• 史上最強にして最も危険なAIモデル「ミュトス」の全貌
• Mythosのアライメント問題

AGI以後に知能・技術・産業の成長が自己強化的に加速するという見立てと、その条件・帰結。

• AGIがもたらす産業・技術爆発とは何か——定量研究から考える10年後の世界
• AGIがもたらす産業・技術爆発
• AGIは人間10億人を「MCPサーバー」として使い、産業爆発のコールドスタートを成功させる。

AGIの到来時期と各年のAI予想・振り返り。予測と実際の突き合わせ。

• 2025年振り返り
• 2026年のAI予想/2030年まで性能向上が続く可能性が高い
• 私たちが生きられるのは後5年かもしれない。

合理的に信念を形成し、証拠に応じて更新するための認識論・意思決定・思考法。

• Yudkowsky Sequences――全333篇の非公式日本語訳

AIのもたらす深刻なリスクの歴史的背景、アライメント問題、国家安全保障や開発競争のガバナンス。

• 山川宏氏×代表 有路翔太・主任研究員 林央「p(doom)徹底討論」後半 全文書き起こし
• 山川宏氏×代表 有路翔太・主任研究員 林央「p(doom)徹底討論」後半 解説付き全文書き起こし
• 主任研究員 林央・代表 有路翔太「Doom基礎編」解説付き全文書き起こし

o1・o3・Med-Gemini・GPT-4oなど個別モデルの能力と、医師の視点からの医療AI解説。

• OpenAI o3は，人間とは全く異質の汎用知能である危険性【東大解説】
• o1って結構騒がれてるみたいだけど
• 日本昔話　LLMたろう（アドベントカレンダー・オープニング）

AI以外の社会的話題を含む、メンバーによるエッセイ。

• ルッキズムに悩む全ての人へ
• 逆世代間格差
• 精神科医が傍観していた，成田悠輔の五月祭の騒動