「産業爆発なんて起きない」は本当か懐疑論12問に有路翔太が答える

そこが一番誤解されやすいところです。自動運転、ヒューマノイド、ドローン、ホワイトカラーの自動化と失業。AIの話をする人の多くは、意識の高い人でも、この範囲を思い浮かべます。僕はこれを「AGIピルを飲んでいない」見方と呼んでいます。

産業爆発が言っているのは、その次元の話ではありません。ロボットがロボットを作り、工場が工場を作ることで、物を作る力そのものが増え続けるという話です。AGIピルを飲んだ人たちの間では、太陽の周りに太陽光パネルを並べるダイソン・スウォームのような宇宙規模の話が、変化がゆっくり進む場合ですら「最低ライン」として語られています（シンギュラリティサロン×AGI Hub 18:22〜）。

いま世界の研究者は1000万人ほどで、年に数%ずつしか増えません。人間は生まれてから一人前になるまで20年はかかるからです。AIは工学的に複製できます。年収数千万円分の仕事をこなせるなら、GPU1台分の費用は数か月で回収できるので、数か月ごとに倍、1年で10倍と増やす動機が生まれます。AIの増え方は年4%どころではなく、1000%にもなりえます。そうなれば研究の進み方は少なくとも数十倍になり、数百年分の技術進歩が10年ほどに縮まりえます（THINKpod 後編 2:21〜）。

経済学の標準的な枠組みである半内生的成長モデルに「AIが研究と労働を代わりに担う」という条件を入れても、成長率が年数%から数十%、数百%へ上がっていく予測が出てきます（『知能爆発』第3章）。

日本では「シンギュラリティ」というと、カーツワイルの直感的な予測やSFのネタとして受け取られがちです。いま議論されているのは、それとは質が違います。技術爆発では、物理学が科学の天井の高さを示し、経済学の成長モデルがそこへ届く速さを予測します。産業爆発では、物理学が自己複製の速さの上限を示し、経験曲線がそこまで加速する経路を示します。この二組の物理学と経済学が、どちらも同じ結論を指しているので、シンギュラリティはSF的な空想ではなく、科学的な蓋然性として語られ始めているんです（note「AGIがもたらす産業・技術爆発」、THINKpod 前編 29:28〜）。しかもAGIピルの世界では、ガンダムやスター・ウォーズのような宇宙規模のSFのスケールが、ゆっくり進む見方でさえ最低ラインです（シンギュラリティサロン×AGI Hub その1 18:22〜）。

一台のロボットが自分をまるごとコピーする話ではありません。鉱山で鉱石を掘り、製錬所で金属を作り、半導体工場でチップを作り、組立工場でロボットを組み、物流網が運ぶ。この工場群全体が、人の手を借りずに次の工場群を作れるかが問題です。

最初は人間の手を使うと思います。人間の手は世界に何十億組もあるので、AGIの指示で人間がロボットを作ればいい。いわば「湿ったロボット」です。そうして作った数十億体のロボットが、今度はエネルギーインフラや産業の拡大を進めていきます（シンギュラリティサロン×AGI Hub 13:49〜）。

倍増にかかる時間がずっと1年なら、そうです。100万台のロボットは10年で約10億台。大きいけれど、太陽系を変えるほどではありません。

でも産業爆発の議論で大事なのは、倍増にかかる時間そのものが短くなっていくことです。工業製品は作った総数が倍になるたびに一定の割合で安くなり、Forethoughtはロボットも3回倍増するごとに製造コストが半分になると見積もっています（『知能爆発』第3章）。安くなればさらに速く倍増できるので、最初は1年だった倍増時間が、数か月、数週間、数日と縮んでいきます（note「AGIがもたらす産業・技術爆発」）。年に2倍の伸びは今の技術でも少なくとも届くと言われていて、そこから成長率が超指数関数的に上がっていくので、5年や10年で、太陽の周りを太陽光パネルで囲むダイソン・スウォームのような世界になっていくと考えています（シンギュラリティサロン×AGI Hub 14:45〜）。

「資源が枯渇する」というニュースは、いまの技術とコストで採算が取れる埋蔵量の話で、地球に物理的にある量とは別です。鉄は地殻の約5%を占め、地殻全体の鉄は人類が毎年掘る量の数百万倍あります。レアアースやレアメタルも地殻の中では銅や亜鉛と同じくらいかそれ以上にあり、一番少ないレアアースでも金の約200倍です。「レア」なのは量ではなく、分離や精製のコストが高いという意味にすぎません。資源の物理的な量は、この成長を止める壁にはなりません（AGIがもたらす産業・技術爆発とは何か）。

バインダーの計算でも、高品位の鉱山が尽きて採掘設備が10倍要るようになったとき、銅・ニッケル・鉛・亜鉛では経済全体の倍増率が0.788から0.770に下がるだけでした（『知能爆発』第3章）。

地球に降り注ぐ太陽の光は、人類が使っている一次エネルギーのおよそ1万倍あります。Forethoughtの分析では、海や砂漠など地表の数%に太陽光パネルを並べるだけで、世界のエネルギー消費を原理的には100倍ほどにできます（『知能爆発』第3章）。地球を離れれば太陽が出すエネルギーはさらに数十億倍あり、太陽系全体で見ればエネルギーの制約は事実上ありません（AGIがもたらす産業・技術爆発とは何か）。

問題は量ではなく、取りに行くコストです。AGIとロボットの自己複製で労働力とエネルギーが指数関数的に増えるなら、その壁は急速に崩れていきます（AGIがもたらす産業・技術爆発とは何か）。もちろん短い期間で見れば、送電網、鉱山開発、精錬能力、環境規制は深刻なボトルネックになりえます。ただ、それは物理的に越えられない壁ではなく、技術と資本と時間をかければ押し広げられる制約です（『知能爆発』第3章）。

大事な反論で、完全には否定できません。ただ、化学反応の素過程は1秒もかからずに終わるのに、研究プロジェクトは年単位でかかります。その差はおよそ8桁、1億倍で、大部分は物理法則ではなく、人間の考える速さ、制度の手続き、連絡の遅れといった人の側の事情です（AGIがもたらす産業・技術爆発とは何か）。

すでに証拠もあります。英国リバプール大学の自律型のロボット化学者は、8日間で688回の実験を人の手を借りずにこなしました。手作業で同じ探索をする場合と比べて約40倍の速さです（『知能爆発』第3章）。待ち時間、手作業、夜間の停止を削っていけば、10〜100倍の加速はいまの技術を保守的に延ばした先にもう見えていて、分野によっては1万倍規模の加速も理論上は射程に入ります（AGIがもたらす産業・技術爆発とは何か）。

規制や社会の摩擦があれば起きないかもしれません。そこは最先端の議論でも認められていて、同じ考えです。Epoch AIも、規制を爆発的成長を遅らせる最も説得力のある反論の一つにしています（AGIがもたらす産業・技術爆発とは何か）。

ただ、規制を押し流す力もあります。安全保障です。米中のどちらかがAGIでロボット経済へ移れば、もう一方は数年で取り返しのつかない経済的・軍事的な劣位に立たされかねません。超知能がアメリカの大統領や習近平に「ロボットをたくさん作らないとまずい」と説得すれば、制度が整う前に産業の軍拡競争のようになるかもしれない。だから、強力な規制がなければ、産業も経済も急速に拡大していくと思っています（シンギュラリティサロン×AGI Hub 14:45〜）。

爆発の初期に需要を支えるのは消費財ではなく、データセンター、電力、半導体、ロボット工場のような生産設備への投資です。作ったもののかなりの部分が、さらに作る力へ再投資されます。そこに安全保障の競争が重なり、各国は軍事や宇宙開発への投資を降りられません（『知能爆発』第3章）。

人間向けの需要も、技術ができてから生まれます。1万年前の狩猟採集民は、スマートフォンも高層ビルも欲しいとは思いませんでした。思想家ルネ・ジラールが言うように、人は他人の欲望を欲望する存在です。AGIの時代には、AI自身が人間の欲望を天才的に刺激するマーケティングを行い、今の僕たちには想像もつかない商品やサービスや体験を次々に生み出すかもしれません。巨大な宇宙コロニーでの暮らし、メタバース空間の「所有」、身体能力や寿命の飛躍的な拡張といった新しい欲望の対象は、膨大なエネルギーと計算資源を必要とし、産業爆発をさらに押し進めます（AGIがもたらす産業・技術爆発とは何か）。

数日で倍増するロボット産業を、人間が監視し続けて制御するのはとても難しい。数百年分の技術の進歩が10年に縮まるなら、数百年分のリスクも10年に縮まります。新しい生物兵器、自律型のドローン兵器、ナノテクノロジーの軍事利用。新しい技術の一つひとつが、人類の存続を脅かしうるんです（AGIがもたらす産業・技術爆発とは何か）。

それに、超知能が人間と違う目標を持っていたら、どんな目標でもそのためにエネルギーと資源を集めようとします。地球は資源として作り替えられ、海の中にいようが衛星軌道にいようが関係なく、人類は全滅するかもしれません（THINKpod 後編 17:52〜）。

ユートピアになるかディストピアになるかは分かりません。でも、このままの世界が続くことはない、というのが僕の主張です（THINKpod 後編 1:16〜）。シンギュラリティが2040年代までに起きる可能性は50%以上はあると感じていて、ここ数年の経済学や物理学の議論で、単なる直感ではなく現実的な話になってきました（THINKpod 前編 39:57〜）。その前提になるAGIは、2045年ぐらいまでに75%、2100年までなら90%の確率でできると見ています（p(doom)徹底討論 第1回 1:56:16〜）。

ただ、100%とは言えません。来たとしても、規制や思いもよらない物理的・工学的な制約で抑えられるかもしれないし、この議論のどこかに大きな穴がある可能性もあります。それでも、爆発の確率が20%や30%だとしても、人類の行方を決めうる出来事を見過ごしていいとは思えません（『知能爆発』第3章、AGIがもたらす産業・技術爆発とは何か）。