主任研究員 林央(Akira)が、AI開発の停止を衛星や視察団、専用チップで守らせる方法を解説する、公式YouTube「テーマ別解説」の第24回を公開
AGI Hub公式YouTubeの「テーマ別解説」の第24回として、「AI開発の停止は見張れるのか?衛星や視察団、専用チップで守らせる方法」を公開しました。ALIGN理事の林祐輔さんを迎えたp(doom)徹底討論から、主任研究員の林央(Akira)が開発停止をどう守らせるかを話した部分を、約5分にまとめています。林央は、国家が全力で再帰的自己改善(RSI)を求めれば、表では止まったように見えて裏で開発が進むおそれがあると話します。一方で、今の巨大なデータセンターは衛星で見つけられ、国際的な合意ができれば一定以上の規模のデータセンターに視察団を置いて、互いに止まっているかを確かめられると考えます。隠れて開発できないかという問いには、電力の使い方と排熱はごまかしにくく、チップの位置も追えると答え、学習はできないチップへの置き換えも紹介します。停止で稼げる時間は10〜30年ほどで、その間に全力でアラインメントを進める必要があると話します。発言は収録時点の出演者の見解で、ゲストの林祐輔さんの発言は含めていません。「AI開発の一時停止」はAGI Hubの用語集でも解説しています。
