AGI와 AI 안전의 중요성을 일본에 전합니다.

우리가 존재하는 이유

인간보다 뛰어난 AI는 수년 안에, 늦어도 10년 안팎에 등장할 수 있습니다. 그 후 1~2년 안에 인류 전체의 지능을 넘어서는 초지능으로 발전할 가능성도 있습니다. AGI는 산업 폭발, 기술 폭발, 그리고 되돌릴 수 없는 지능 폭발로 이어질 수 있습니다.

이 전환이 잘 진행될지는 AI 정렬에 크게 달려 있습니다. 초지능 시스템이 인간의 의도에서 벗어날 가능성은 인류 멸종을 포함한 존립 위험으로 논의됩니다. 일본의 산업, 정책, 연구 의사결정도 이 문제를 고려해야 합니다. 전 세계 AI 안전 논의의 상당 부분은 영어로 이루어지고 있으며, AGI HUB는 일본 사회와 그 논의 사이의 간극을 줄이고자 합니다.

우리가 하는 일

주요 활동은 일본어로 공개하고 진행합니다.

강연

기업, 대학, 정부 기관을 대상으로 AGI의 기초부터 산업 폭발, 지능 폭발, AI 정렬과 일본에 대한 의미까지 다룹니다.

집필

미디어와 기업 매체를 위해 AGI 타임라인, 최신 동향, AI 안전, 정렬 문제에 관한 글을 씁니다.

공동 연구와 정책 논의

기업 및 연구 기관과 함께 AGI가 산업, 교육, 정책, 일상에 미칠 영향을 검토하고 보고서와 제언으로 정리합니다.

주요 관심 분야

• 타임라인: 인간을 넘어서는 AI는 언제, 어떤 순서로 등장할까요?
• 폭발적 성장: 기술 폭발과 산업 폭발은 어떤 분야를 먼저, 얼마나 깊게 바꿀까요?
• 정렬과 안전: 초지능이 인간의 의도와 어긋날 가능성은 존립 위험으로 논의됩니다. 무엇을 해결해야 할까요?
• AGI 이후의 미래: AI 정렬을 성공시키기 위해 무엇을 할 수 있으며, 성공한 미래는 어떤 모습일까요?

이 주제에 관한 AGI 입문, 용어 해설, 리서치 아카이브는 현재 일본어로 제공됩니다.

멤버

bioshok — 공동대표

대학에서 반도체를 연구했고 도쿄대학교 대학원에서 자연어 처리를 연구했습니다. AI의 영향, 위험, 정렬에 관한 발신을 이어가고 있습니다. 저서로 AIのもたらす深刻なリスクとその歴史的背景가 있으며, 일본인공지능학회 칼럼 “私のブックマーク”에 “AIアライメント”를 기고했습니다. (X, note)

Yatima Kagurazaka — 공동대표

의사. MinColle을 공동 창업하고 매각한 뒤 도쿄대학교를 거쳐 현재 역할을 맡고 있습니다. 근거 기반 과학기술정책 분야의 주요 저작을 일본어로 번역하는 프로젝트를 이끌었고, サイエンス・オブ・サイエンス(모리키타출판)으로 출간했습니다. 2025년 인공지능학회에서 “AIサイエンティストの台頭” 세션을 주최해 큰 관심을 받았습니다. (X, note)

문의

강연, 집필, 공동 연구, 미디어 문의 또는 국제 AI 안전 커뮤니티와의 협업은 문의 양식을 통해 연락해 주세요. 영어 문의도 가능합니다.