AGI入門：汎用人工知能とは何か、社会に何が起きるのか

1. AGIとは何か

AGI（Artificial General Intelligence、汎用人工知能）とは、人間が行える知的作業の大部分を、 人間と同等以上の水準で遂行できるAIのことです。 画像認識や翻訳のような特定の作業に特化した従来のAI（特化型AI）と異なり、 分野を問わず幅広い知的作業を汎用的にこなせる点が本質的な違いです。

定義には幅があり、「経済的に価値のある仕事の大半で人間を上回る自律的なシステム」のように 経済的な観点から定義されることもあります。 さらにその先、人類全体の知性を上回る段階のAIは超知能（ASI）と呼ばれます。 基本用語の詳細はAGI用語解説にまとめています。

2. なぜ今、AGIが語られるのか

AGIは長らくSF的な遠い未来の話と見なされてきました。状況を変えたのは、 大規模言語モデルを中心とする近年のAIの急速な進歩です。 計算資源とデータを増やすほど性能が向上する傾向（スケーリング）が続き、 文章作成、プログラミング、科学的な推論といった幅広い知的作業で、 AIの能力は年単位で大きく伸びています。

現在では、主要なAI開発企業がAGIの開発を公式の目標として掲げ、 経営者や研究者の一部は数年以内の実現可能性に言及しています。 もちろん、より長い時間軸を見込む専門家も多く、確定的な予測は存在しません。 しかし「実現するかどうか」だけでなく「実現した場合に何が起きるか」を、 社会が事前に考えておくべき段階に入ったことは確かです。

3. AGIが実現すると何が起きるのか

AGIの影響を考えるうえで重要なのは、変化が一度に来るのではなく、 連鎖的に加速していく可能性です。この連鎖の起点は、AIがAI開発そのものを担うようになることです。 実際、AIは現在すでに、コード作成や研究の補助を通じてAI開発の速度を押し上げ始めています。 AGI HUBはこの連鎖を3つの段階で整理しています。

知能爆発

AIがAI自身の研究開発を担い、自己改善を繰り返すことで、 知能が急激に向上するという議論です。1965年に数学者I・J・グッドが提唱した仮説に起源がありますが、 現在では主要なAI開発企業自身が、AIによるAI研究の自動化を戦略として掲げており、 遠い未来の思考実験ではなく進行中の論点になりつつあります。 この過程の先に超知能（ASI）への到達が想定されています。

技術爆発

AGIが研究開発そのものを担うようになると、科学技術の進歩全体が加速します。 創薬、材料科学、エネルギーなど、これまで数十年かかった進歩が 数年で起こる可能性が議論されています。

産業爆発

AGIが人間の労働を広く代替できるようになると、労働力の制約が外れ、 経済成長が従来の水準を大きく超えて加速する可能性があります。 ロボティクスとの組み合わせにより、影響は知的労働だけでなく物理的な作業にも及びます。

この連鎖は、ひとたび本格的に進めば後戻りのできない、不可逆な変化になると考えられています。 一方で、電力や半導体、物理実験の速度、データといった制約が連鎖を減速させる可能性もあります。 だからこそAGI HUBは、これらを「起こるか起こらないか」ではなく、 起こりうる確率の問題として検討しています。

4. 何が問題になるのか — アライメントとリスク

変化の規模が大きいほど、それが望ましい方向へ向かうかどうかが重要になります。 中心的な課題がAIアライメントです。 AIの目標や行動を人間の意図や価値観と一致させる研究分野で、 AIが高度になるほど「指示には従っているのに、意図とはずれた行動を取る」問題が深刻になります。

人間を超える知能を持つAIが人間の意図から外れた場合、影響を後から修正することは難しく、 人類滅亡を含む存亡リスクとして国際的に議論されています。 また、アライメントが技術的に成功したとしても、 誤用、悪用、特定の主体への過度な権力集中といった、人間の側の問題も残ります。

重要なのは、これらが「AIに反対するか賛成するか」という話ではないことです。 期待とリスクの両方が大きいからこそ、正確な理解にもとづく社会的な判断が必要になります。

5. 日本にとっての論点

AGIをめぐる議論の多くは英語圏で進んでおり、日本語でアクセスできる一次情報は限られています。 この情報格差自体が、日本にとってのリスクです。

AGI HUBは、この最後の「橋渡し」を役割として設立された組織です。

6. いま何ができるのか

実現時期が不確実でも、いまから始められる準備があります。

AGI HUBは、講演会、記事寄稿、共同研究を通じて、 AGIによる変化を日本の社会の判断材料にするための活動を行っています。