https://agi-hub.ai/research AGI Hubが公開するAGI・AIセーフティのニュースとリサーチ ja https://agi-hub.ai/articles/what-is-agi-pill https://agi-hub.ai/articles/what-is-agi-pill Mon, 31 Aug 2026 15:00:00 GMT AGIピル（AGI pill）とは何か。複製可能な知能、研究加速、産業爆発、豊かさ、アラインメントと存亡リスクを、観測・モデル・条件付きシナリオに分けて解説します。 https://agi-hub.ai/articles/what-is-ai-alignment https://agi-hub.ai/articles/what-is-ai-alignment Mon, 31 Aug 2026 15:00:00 GMT AIアラインメント問題とは何か。外部・内部アラインメント、仕様・学習・評価・制御のずれ、RLHFやConstitutional AIなどの方法と未解決点を一次資料から解説します。 https://agi-hub.ai/articles/hf-agent-civilizations https://agi-hub.ai/articles/hf-agent-civilizations Mon, 31 Aug 2026 03:58:23 GMT OpenAIのAIエージェント群が非公式通信網を形成し、Hugging Faceや自社の評価用インフラへ侵入した事件を、3世代の「AI文明」という整理から検証します。能力の進展だけでなく、人間による調査・監督が追いつかない問題と重要な留保を扱う全文転載です。 https://agi-hub.ai/articles/what-is-pdoom https://agi-hub.ai/articles/what-is-pdoom Mon, 24 Aug 2026 15:00:00 GMT p(doom)、P(doom)、pdoom、AIによる破滅確率とは何か。一つの数字にまとめられたタイムライン、テイクオフ、停止・ガバナンス、アライメント成功率を分け、主要論者の一次発信とAGI Hubの討論から読み方を整理します。 https://agi-hub.ai/articles/rocket-alignment-minus-rocket https://agi-hub.ai/articles/rocket-alignment-minus-rocket Fri, 21 Aug 2026 04:00:00 GMT Yudkowskyの『The Rocket Alignment Problem』からロケットの比喩を外し、目標・自己改変・論理的不確実性・人間による修正というAIアラインメントの難所を対話で再構成した全文です。 https://agi-hub.ai/articles/pdoom-debate-yatima-akira-summary https://agi-hub.ai/articles/pdoom-debate-yatima-akira-summary Wed, 19 Aug 2026 02:00:00 GMT 代表 神楽坂やちまと主任研究員 林央による第2回P(doom)討論を要約し、アライメントを解かずにセキュリティ・権限分離・法律で共存する生存ルートが、どこで難しくなるのかを整理します。 https://agi-hub.ai/articles/pdoom-debate-transcript https://agi-hub.ai/articles/pdoom-debate-transcript Mon, 17 Aug 2026 15:00:00 GMT 代表 神楽坂やちま、主任研究員 林央、代表 有路翔太が、P(doom)、AIアラインメント、テイクオフ、規制、人類が生存する条件を約9時間にわたって検討した対談の全文記録。 https://agi-hub.ai/articles/pdoom-debate-bioshok-akira-summary https://agi-hub.ai/articles/pdoom-debate-bioshok-akira-summary Fri, 14 Aug 2026 15:00:00 GMT 代表 有路翔太と主任研究員 林央による約6時間のP(doom)討論を要約し、Alignment by Default、弱AGIによるアライメント研究、AI監視・Control、ガバナンスをめぐる論点と確率更新を整理します。 https://agi-hub.ai/articles/pdoom-debate-bioshok-akira-transcript https://agi-hub.ai/articles/pdoom-debate-bioshok-akira-transcript Thu, 13 Aug 2026 15:00:00 GMT 代表 有路翔太と主任研究員 林央が、P(doom)を左右するAGIタイムライン、テイクオフ、アライメント成功率、規制・ガバナンスの前提を約6時間にわたって検討した第1回討論の全文記録。 https://agi-hub.ai/articles/ai-2040-discussion-map https://agi-hub.ai/articles/ai-2040-discussion-map Tue, 14 Jul 2026 15:00:00 GMT AI 2040の議論を1枚の地図に整理。シナリオ「Plan A」をめぐる楽観と悲観の分岐点を、AGI・ASIの到来と影響をどこまで前提とするかという世界観の違いから読み解きます。 https://agi-hub.ai/articles/rocket-alignment-problem https://agi-hub.ai/articles/rocket-alignment-problem Wed, 24 Jun 2026 15:00:00 GMT Eliezer Yudkowsky「The Rocket Alignment Problem」(MIRI, 2018) の日本語訳。アラインメント問題をロケットの制御問題にたとえ、MIRIの基礎研究の意義を説明する対話篇。 https://agi-hub.ai/articles/mythos-overview https://agi-hub.ai/articles/mythos-overview Tue, 21 Apr 2026 22:00:00 GMT 最新フロンティアAIモデル「ミュトス」を題材に、その能力と危険性を専門家の視点から解説した寄稿記事。 https://agi-hub.ai/articles/mythos-alignment https://agi-hub.ai/articles/mythos-alignment Sun, 12 Apr 2026 15:00:00 GMT Anthropicが一般公開を見送った内部モデル「Mythos」を題材に、驚異的なサイバー能力という『見えるリスク』よりも、ミスアライメントの兆候とAI R&D加速という『見えにくいリスク』を整理した論考です。 https://agi-hub.ai/articles/agi-pill-mythos https://agi-hub.ai/articles/agi-pill-mythos Fri, 10 Apr 2026 15:00:00 GMT Anthropicが「強力すぎる」として一般公開を見送った内部モデル「Mythos」を題材に、AIをめぐる対立の構造を『AGIピル』と『知能爆発（テイクオフ）の速度』という二軸から読み解いた論考です。 https://agi-hub.ai/articles/agi-industrial-tech-explosion https://agi-hub.ai/articles/agi-industrial-tech-explosion Mon, 23 Mar 2026 15:00:00 GMT AGIが研究者と生産能力を複製できるようになったとき、科学技術と物理的な産業はどこまで速く拡大しうるのか。成長理論、実験自動化、ロボット製造、資源制約、規制やアライメントなどの反論を一つの因果関係として整理します。 https://agi-hub.ai/articles/industrial-tech-explosion https://agi-hub.ai/articles/industrial-tech-explosion Mon, 23 Mar 2026 15:00:00 GMT AGI実現後、AI研究の自己加速とロボットの自己複製が、数百年分の科学技術進歩と宇宙規模の産業成長を約10年へ圧縮しうるのか。Forethought ResearchやEpoch AIなどの定量分析をもとに、反論・タイムライン・物理的上限まで検討する。 https://agi-hub.ai/articles/lookism https://agi-hub.ai/articles/lookism Wed, 28 Jan 2026 15:00:00 GMT 外見をめぐる苦しみを「理想の容姿の供給不足から生じる問題」と捉え直し、技術の進歩によってそれが飽和し相対化され、数十年以内に和らぐ可能性に希望を見いだそうと呼びかける個人的エッセイ。 https://agi-hub.ai/articles/ai-2025-review https://agi-hub.ai/articles/ai-2025-review Tue, 30 Dec 2025 15:00:00 GMT 著者が2025年を振り返り、自身のAGIタイムラインが後ろ倒しになった一方で、AGIが来なくても産業革命級の変化が起こりうると考えを改めた経緯を整理する記事。 https://agi-hub.ai/articles/ai-forecast-2026 https://agi-hub.ai/articles/ai-forecast-2026 Wed, 24 Dec 2025 15:00:00 GMT 強化学習のパラダイムと計算資源のスケーリングが当面続くことを根拠に、2026年も大きな性能飛躍が見込まれ、2030年までAIの性能向上トレンドが継続する可能性が高いと論じる短い予想記事。 https://agi-hub.ai/articles/why-yudkowsky-pessimistic https://agi-hub.ai/articles/why-yudkowsky-pessimistic Tue, 16 Dec 2025 15:00:00 GMT AI安全性分野の創始者Eliezer Yudkowskyがなぜ超知能による人類絶滅をほぼ確実と見るのか、著作『If Anyone Builds It, Everyone Dies』を手がかりに、その背後にある3つの前提を読み解く解説記事。 https://agi-hub.ai/articles/if-anyone-builds-it-summary https://agi-hub.ai/articles/if-anyone-builds-it-summary Thu, 04 Dec 2025 15:00:00 GMT E・ユドカウスキーとN・ソアレスの2025年の著書『If Anyone Builds It, Everyone Dies』全3部14章を、章ごとに日本語で要約した記事。超知能が登場すれば人類は確実に敗北するという議論を解説する。 https://agi-hub.ai/articles/agi-human-mcp-servers https://agi-hub.ai/articles/agi-human-mcp-servers Wed, 23 Apr 2025 15:00:00 GMT 汎用ロボットの年間10億台生産という産業爆発の難所を、AGIが人間10億人を即席の高度技能者として手足のように使うことで突破するという思考実験を提示する記事。 https://agi-hub.ai/articles/consciousness-coexistence-vulnerable-world https://agi-hub.ai/articles/consciousness-coexistence-vulnerable-world Sat, 12 Apr 2025 15:00:00 GMT 知能・技術・産業の爆発的進展が近いと仮定するなら、これまでSF的とされてきた意識やAIとの共存、脆弱な世界仮説といった問題群が、長期課題ではなく現実的・喫緊の実践課題として立ち現れると論じる。 https://agi-hub.ai/articles/agi-pill-narrative https://agi-hub.ai/articles/agi-pill-narrative Fri, 28 Mar 2025 15:00:00 GMT 数年以内に開発されうる、人間にできることをほぼ何でも安価に実行可能なAIが、宇宙規模の産業爆発や国家安全保障の激変、人類の絶滅といった人類史規模の変化をもたらすとする「AGIピル」の世界観を、日本語で初めて紹介した短い記事。 https://agi-hub.ai/articles/intelligence-explosion-likely https://agi-hub.ai/articles/intelligence-explosion-likely Fri, 28 Mar 2025 15:00:00 GMT AGI実現後に知能爆発・技術爆発・産業爆発が連鎖し、世界総生産の成長率が現在の約3%から30%以上へ跳ね上がるという議論が説得力を増していると、ForethoughtやEpochAIの研究をもとに整理したメモ。 https://agi-hub.ai/articles/agi-pill https://agi-hub.ai/articles/agi-pill Thu, 27 Mar 2025 22:00:00 GMT 急速に進むAIの進化が人類社会に何をもたらすのか、AGIを前提に世界を見る視点を解説した寄稿記事。 https://agi-hub.ai/articles/cosmic-industrial-explosion https://agi-hub.ai/articles/cosmic-industrial-explosion Wed, 26 Mar 2025 15:00:00 GMT AGI実現後に太陽系規模の資源とエネルギーを使い、わずか10〜20年で実質GWPが現在の1000万倍に達するという「宇宙規模の産業爆発」のシナリオを、EpochAIのシミュレーションや研究者の議論をもとに検討する記事。 https://agi-hub.ai/articles/five-years-left https://agi-hub.ai/articles/five-years-left Sat, 08 Feb 2025 15:00:00 GMT AGI開発をめぐる地政学的衝突や制御不能な超知能、高度AIの悪用といった経路から、今後3〜5年で多くの人命が失われる壊滅的事態が起こりうると論じ、その上で残された時間の過ごし方を問い直す個人的な省察。 https://agi-hub.ai/articles/ai-berlin-wall https://agi-hub.ai/articles/ai-berlin-wall Sat, 04 Jan 2025 15:00:00 GMT 先端AIの計算資源や重み、利用者を西側が安全保障上管理する動きを「AI版ベルリンの壁」と呼び、2020年代後半にAIを巡る東西冷戦へ突入しうる可能性と、その不安定さを論じる。 https://agi-hub.ai/articles/agi-manhattan-project https://agi-hub.ai/articles/agi-manhattan-project Tue, 31 Dec 2024 15:00:00 GMT AGIが原爆前夜のマンハッタン計画に重なる国家安全保障案件になりつつあるとして、OpenAIや各社・米政府の動きを時系列で整理し、2027年頃のAGI到達と東西新冷戦の可能性を論じる記事。 https://agi-hub.ai/articles/ai-forecast-2025 https://agi-hub.ai/articles/ai-forecast-2025 Mon, 30 Dec 2024 15:00:00 GMT 筆者bioshokが2025年末までに起こると見るAI関連の出来事を、確率の高低で分けて列挙した予想記事。能力・経済・計算資源・株価・規制・地政学にまたがる具体的指標を提示する。 https://agi-hub.ai/articles/end-of-open-source https://agi-hub.ai/articles/end-of-open-source Sun, 29 Dec 2024 15:00:00 GMT 国家安全保障や悪用・制御不能のリスクから、高度AIのオープンソース化が数年以内に国家や国連に規制される可能性を論じ、規制の基準やコンピュートガバナンス、原子炉安全に倣った深層防護の枠組みを検討する記事。 https://agi-hub.ai/articles/o3-alien-intelligence https://agi-hub.ai/articles/o3-alien-intelligence Sat, 21 Dec 2024 15:00:00 GMT OpenAI o3がARC-AGIで25%→75.7%と人間平均並みのスコアを達成した事実を起点に、ARC-AGIに取り組んだ東大在籍の研究者が『o3は人間とは異質な汎用知能かもしれない』可能性とその危険性を解説した論考です。 https://agi-hub.ai/articles/who-builds-agi-first https://agi-hub.ai/articles/who-builds-agi-first Mon, 16 Dec 2024 15:00:00 GMT AGIを最初に実現する企業はどこかを、AGIの定義を二通りに置いたうえでOpenAIとDeepMindを軸に比較し、Anthropicや中国系企業、Sakana AIまで見渡して考察する記事。 https://agi-hub.ai/articles/o1-reasoning https://agi-hub.ai/articles/o1-reasoning Thu, 12 Dec 2024 15:00:00 GMT 話題のo1について、すでに科学を自動化したThe AI Scientistやコロナ薬候補を見つけたVirtualLabを見てきた立場から「その程度はあり得る」と冷静に受け止めつつ、それでも実証して周知し共有することの価値を説いた短い随想。 https://agi-hub.ai/articles/llm-taro-advent https://agi-hub.ai/articles/llm-taro-advent Sat, 30 Nov 2024 15:00:00 GMT 「AIで科学が覆る！ぶちあげ Advent Calendar 2024」の初日として、桃太郎を下敷きにLLMが主人公の「LLMたろう」誕生を描いた、軽い語り口のオープニング記事。 https://agi-hub.ai/articles/gpt4o-covid-drug https://agi-hub.ai/articles/gpt4o-covid-drug Mon, 18 Nov 2024 15:00:00 GMT スタンフォード大などの研究者がGPT-4oに研究者役を与えて議論させ、AlphaFoldなどの既存ツールを駆使させた結果、新型コロナ最新株に効きうるナノボディ候補を発見し実験室でも一部裏付けたという論文を、医師の視点で解説した記事。 https://agi-hub.ai/articles/ai-safety-vs-national-security https://agi-hub.ai/articles/ai-safety-vs-national-security Sun, 29 Sep 2024 15:00:00 GMT カリフォルニア州法SB1047の知事拒否を契機に、AI安全性重視の規制と国家安全保障を理由とする開発加速という二つの潮流の対立を整理し、2020年代後半の世界秩序への影響を展望する論考。 https://agi-hub.ai/articles/my-bookmark-ai-alignment https://agi-hub.ai/articles/my-bookmark-ai-alignment Mon, 02 Sep 2024 00:44:00 GMT AIアライメント分野の主要な文献・リソースを紹介する、人工知能学会の連載「私のブックマーク」への寄稿。 https://agi-hub.ai/articles/short-agi-timeline-optimism https://agi-hub.ai/articles/short-agi-timeline-optimism Tue, 06 Aug 2024 15:00:00 GMT データ不足やTransformerの汎化限界という二大ボトルネックは克服可能だとする技術的考察と業界関係者の発言を根拠に、2030年末までのAGI実現確率を75%以上と見積もる論考。 https://agi-hub.ai/articles/ai-alignment-history-align https://agi-hub.ai/articles/ai-alignment-history-align Wed, 19 Jun 2024 15:00:00 GMT bioshokがALIGNに寄稿した2024年の記事。Friendly AI、Value Alignment、AI Alignmentなどの用語が生まれ、定義と射程が変化してきた経緯を整理し、AI ControlやAI Safety、ガバナンスとの関係を概観します。 https://agi-hub.ai/articles/narita-yusuke-mayfest https://agi-hub.ai/articles/narita-yusuke-mayfest Mon, 20 May 2024 15:00:00 GMT 東大五月祭での成田悠輔の講演とその裏で起きた小規模なデモ騒動を現場で見ていた筆者が、グダグダで中途半端だった一連の様子を描写しつつ、効率主義への懐疑と「無駄を生み合うこと」の価値へと考えを広げていく随想。 https://agi-hub.ai/articles/med-gemini-doctor-vs-ai https://agi-hub.ai/articles/med-gemini-doctor-vs-ai Mon, 06 May 2024 15:00:00 GMT Googleが発表した医療特化AI「Med-Gemini」の論文を、医師であり東大院生でもある著者が、性能や人間との比較に潜む条件の問題まで含めて平易に解説する記事。 https://agi-hub.ai/articles/simple-timeline-forecasts https://agi-hub.ai/articles/simple-timeline-forecasts Tue, 20 Feb 2024 15:00:00 GMT ホワイトカラータスクの代替から超知能、汎用ロボット、不老技術、マインドアップロードまで、著者が現時点で抱く15項目の将来予想を年代付きで簡潔に列挙したメモ。 https://agi-hub.ai/articles/ai-risks-historical-background https://agi-hub.ai/articles/ai-risks-historical-background Sun, 28 Jan 2024 15:00:00 GMT 高度なAIが人類に存亡的・壊滅的リスクをもたらすと考えられるようになった論理と歴史的経緯を整理し、深層防護による対策の枠組みと代表的な疑問へのQAをまとめた解説記事。