AGI Hub公式YouTubeで2026年11月3日に配信した討論を、AGI Hub編集部が書き起こしました。言いよどみと言い直しを除いて整えましたが、発言の中身は変えていません。用語注釈は編集部が加えたものです。各話者の見解や個人の将来予測を含みます。原文（AGI Hub YouTube）はこちら。
この書き起こしについて
2026年11月3日19時から、AGI Hub公式YouTubeで「p(doom)討論コラボ企画」を配信しました。ゲストは、公益財団法人日独文化研究所研究員・早稲田大学非常勤講師で、ハイデッガー研究で知られる哲学者の関口浩先生です。代表 有路翔太（bioshok）が進行を務め、主任研究員 林央（akira）とともに、AIによる人類滅亡のリスクを約2時間にわたって話し合いました。本記事はその全文に用語注釈を付けた解説付き書き起こしで、事前知識がなくても読めるようにしています。
配信の録画はYouTubeで見られます。章ごとの「動画で見る」のリンクから、その場面の録画を開けます。発言の横の時刻は録画の中の時刻です。関口先生は配信の前に「対談メモ」を用意し、配信ではそのメモを画面に映しながら話しました。
書き起こしは音声認識で作り、言いよどみと言い直しを除いて整えました。発言の中身は変えていません。配信の音声に雑音が多く、聞き取れなかった語には「（〜？）」や「[聞き取れず]」の印を付けています。声と文脈から話し手を決められなかった発言は「話者不明」としています。
対談動画
人物紹介
関口浩先生
哲学者。公益財団法人日独文化研究所研究員、早稲田大学非常勤講師。ハイデッガー研究で知られ、ハイデッガー『技術への問い』（平凡社ライブラリー）を翻訳しました。東京大学出版会から刊行中のハイデッガー全集の翻訳では編集委員を務め、『ハイデッガー事典』（昭和堂）の編集にも携わりました。
X: @HiroshiSek59491
有路翔太（bioshok）
AGI Hub代表。東京大学大学院で自然言語処理を研究し、修了しました。AIのインパクトとリスクについて発信を続けており、著書に『知能爆発』『AIのもたらす深刻なリスクとその歴史的背景』があります。
X: @bioshok3
林央（akira）
AGI Hub共同創業者・主任研究員（Chief Alignment Officer）。東京大学在学中にAI安全性のコミュニティを立ち上げました。いまの開発競争が続けば人類が絶滅する確率はきわめて高いと公に評価しており、AGI Hubではアラインメント分野の調査と発信を担当しています。
X: @Align_ASI
この討論の見どころ
関口先生は、気候変動とAIを、西ヨーロッパから続く技術文明が生んだ二つの危機として捉えます。ハイデッガーは、現代の技術文明もいずれ終わると見ていました。人類が滅びるのではなく、人々の関心が技術から離れていくという終わり方です。これに対して林央は、AIは気候変動よりずっと短い時間で全ての人間を死なせうる点でリスクの規模が違うと返し、文明の終わり方をめぐる危機感の違いが前半の論点になります。
中盤では、専門家になることを良い人生とする教育を「自己家畜化」と呼ぶ関口先生の見方から、ニック・ランドの加速主義、身体を使う知性をAIがデータにできるのか、という話へ進みます。後半は、加速主義の背景にあるキリスト教的な考え方と、人間の存在理由の話です。終盤では、ソクラテスが身近な数人としか付き合わなかったことや、外から見ると単調な暮らしが実は豊かなことを例に、加速する世界を止める手がかりを探ります。
書き起こし本文（敬称略）
はじめに：出演者紹介と、気候変動・AIという二つの危機
有路翔太開始 0:54
一旦、自己紹介をしていきたいなと思います。私たちはAGI Hubという会社をほんの半年前に作らせていただいて、このAGIという言葉にもあるように、汎用人工知能というもの、もしくはそれ以上に超知能といったものが、どういったリスクやインパクトを社会にもたらすのかっていうところを調査したり、啓発活動をしたりしている会社になります。
林、akiraは、本当にAIがこのまま進歩すると……というか、これ自分で言った方が。akiraさん、自己紹介してもらっていいですか。
林央開始 1:44
（このまま開発していればいいですか？）
有路翔太開始 1:49
っていう立場。いわゆるAIドゥーマーと言われてる、基本的にAIの発展っていうのを今の状況で続けると、本当に人類が絶滅してしまうということを、おそらく日本で最もロジックベースで話せる人だと思いますね。すごい若い方で、今20歳になったんですか。
という方と、私は一応本名が有路というんですけど、ネット上でbioshokという名前で活動させていただいてまして。AIの安全性ですとか、いわゆるシンギュラリティのような、そういった議論を調査して発信しているようなアカウントをずっと5年ぐらいやっていて、その中でやっぱりAIの暴走リスクっていうのが最も深刻だろうということで、この分野でいろいろ活動しているという形になります。本日はよろしくお願いいたします。
じゃあ、関口先生の自己紹介も簡単にしていただいてもよろしいでしょうか。
関口浩開始 3:21
私は文系の方で哲学を。特に現代のドイツ哲学なんですね。19世紀の終わりにニーチェっていう人が出てきまして、ニーチェっていう人が、これはなかなかすごい実力のある思想家で、その影響でハイデッガーという人が出てきまして。そのハイデッガーという人のことを研究して、それで学会的にはデビューしたわけなんですけれども。
ハイデッガーという人は20世紀の後半に技術の問題に注目していろいろ考えていたんですね。私の考えはそこがヒントなんですけれども、今21世紀で20世紀とは随分状況が違うので、今日のお話は、私はハイデッガー研究者ですけれども、ハイデッガーという単語はもう出ないかもしれませんね。
林央開始 4:30
具体的なあれは変わっただけで、抽象的な原則は成り立つみたいな感じじゃないものなんですか。どうなんでしょう。
関口浩開始 4:38
技術の問題としてね、根本的なところでは変わらないところがあるわけですけれども。やっぱりそれは根本的なところで、皆さんと対話するときにはね、哲学議論しても、これはなかなか、それこそ導入だけで2、3時間経っちゃいますよ。
林央開始 5:09
そしたら昼に始めた方がよかった。
有路翔太開始 5:12
その場合は、6時間構成になっちゃうかもしれないけどね。
関口さんが、確か成蹊大学で授業されているときに、人類の絶滅の話をちょっとしたっていう話を聞いたんですけど。
関口浩開始 5:33
はい、そうです。サステナビリティ議論なんですよね、私のテーマは。その中に林さんがおっしゃったようなことが、当然今議論されてるわけですよね。今だから最大の議論は気候変動の問題とAIの問題ですよ。だからそれは取り上げないわけにいかないわけですよね。
林央開始 5:59
気候変動と違って、より短いタイムスケールで全ての人間が死にますから、リスクの規模がちょっと違うというのはあると思います。
有路翔太開始 6:12
確かに気候変動の活動家のグレタ・トゥーンベリさんがいらっしゃいますけど、おそらくグレタさんの……分かってないですけど、その気候変動に関してはむしろ楽観的な人が多そうですよね、AIセーフティーの。
林央開始 6:37
[聞き取れず]楽観的っていうのはちょっと違うんですけど、十分に早い技術的進展を用いれば、逆転させることができる。
有路翔太開始 6:48
他の加速主義者と同じような[聞き取れず]。基本的に加速主義が反転してドゥーマーというか、破滅論に至っている人が多いので、結構似ているようで違う精神構造をしているのかもしれないと思いましたね。
林央開始 7:09
そうですね。そしてその界隈じゃないという分野の人たちを除いて考えてみると、リスクのかかり方が少し違います。気候変動って「あなたが死にます」っていう問題とはなかなか違うじゃないですか。一方で、そのAIのやつは「あなたが死にます」[聞き取れず]。それはまた少し違いがあるんですが。
有路翔太開始 7:28
関口さんはどういう背景で、授業でそういった話をされたんですか。もともとそういう話に興味があったというか。
ハイデッガーの技術文明論と文明の終わり
関口浩開始 7:40
大元、本当の大元に行くと、文明論ですよね。文明論っていうか、文明論の中での技術文明論ですよね。西ヨーロッパ以来の技術文明論の中で、気候変動の問題もAIの問題も出てくるっていう、そういう哲学なのでね。非常に古代以前まで遡って人類の歴史を展望するっていうね、そういう関心だったわけなんですよね。
そこでハイデッガーが割と視野が広くて、古代から分かってるわけなんですよね。ギリシャ語がよくできる人でね。なんだけども、私は先週も文化人類学の学会に出てまして、文化人類学のことも関心があるんですよね。文明以前ですよね。文明以前から文明、そして現代っていうふうに、そういうことを思っていまして。
ハイデッガーはその中では、割と西ヨーロッパの、西洋の思想家としては視野が広いし、西洋を特権化するっていう考えが割と反省的なんですよね。
有路翔太開始 9:18
20世紀の哲学者ですもんね。（小学生？）僕もすごい昔に、ハイデッガーの『存在と時間』とかを解説する新書とか読んだぐらいで、あんまりよく分かってないんですけど、原子力の話とかとも結びつけられることは多いイメージありますね。
関口浩開始 9:43
ちょっと原子力のことを語ってるんです。つまり原子力は、彼は1945年の広島、長崎のときには、これは現役の思想家ですからね。当然それは技術の問題として関心を持ちますよね。
林央開始 10:10
[聞き取れず]あんまり把握してないので、初歩的な質問なんですけど、（入りが3階？）話してた[聞き取れず]。その予測なんですけど、未来がどうなるかみたいな話とか、こういう計測があったみたいな、その事実に対する話なのか、それとも（批判？）に対する話なのか、みたいなのが少し気になってるんですけど、どっちなんでしょう。
関口浩開始 10:28
やっぱり哲学なんですよ。根本的な根拠ですよね。根拠を求めるという感じで、そのためにはやっぱり個々の事例を手がかりにして考えていくというわけなんですよね。
将来のことについては語るんですけれども、それは技術文明の転換ということで、この間お送りしたメモの一番最後の方は、私は私なりにそういう（終わりの頭で？）考えてみようっていうね。
有路翔太開始 11:05
終わりの……一応さらっと読ませていただいたんですけど、バベルの塔の話とかされましたよね。
こういう文明の崩壊のような話も、ハイデッガーは予想していたというか、それに類する議論もしてたんですか。
関口浩開始 11:43
そうです。だから分かりやすく言っちゃうと、現代文明は転換せざるを得ないであろうということです。全ての文明は転換するので、あるとき生じて、あるとき頂点極めて、衰退して滅んでいくっていうのが、今までの文明全てそうだったので。西ヨーロッパの文明も17世紀頃に、科学革命の時代にかなりはっきり姿を表してきたけれども、我々の文明も全て他の文明と同じように、いずれはこれは終わりになるんだよねっていうね。
それは決して悪いことではないっていうのが彼の考えで。つまり技術文明に対して、（強化？）するばかりじゃないんですよね。それは頭から否定するわけじゃないんだけども、つまり頭から否定できない。彼はそういう意味で、そこで結構安楽に大学の教員生活してたわけだから。それはもう頭から否定するわけじゃないんだけれども、好きになれないんですよね。
有路翔太開始 12:53
好きになれないっていうのは、技術文明が崩壊することが好きになれないっていうことですか。
関口浩開始 13:00
いやいや、技術文明自体。
有路翔太開始 13:01
技術文明自体が好きじゃない。
関口浩開始 13:04
彼はね。だから、（褒めるおしの主？）だとかね、ギリシャ悲劇だとかね、そういうのがとても好き。つまりそういうものに、人間性のインターレスティングな、面白い面をそこに見出していて。文化的なものが抑圧されてしまうっていうね。
大学でも、こいつはなかなか優秀なやつで、こいつが哲学を（作らないかな？）と思うと、全然経済学部に行っちゃったり、理工学部に行っちゃったり。そしてそういう人文系の方には、優秀な人は来てくれないっていうわけですよ。
林央開始 13:59
彼が技術文明の崩壊っていうのを意味してるのは、技術が後退するみたいな意味ってことですよね。どうなんでしょう。多分、人類がいなくなる話よりも、もっと文明のスケールが戻るみたいなイメージ。
関口浩開始 14:13
人類の崩壊とは彼は言っていません。むしろ、技術文明に対する人々の関心が移っちゃう。[聞き取れず]それが宗教の方に行っちゃうのか、芸術の方に行っちゃうのか、どこに行っちゃうのか分かんないけども、とにかく技術に対する関心が、人々のその精神から離れていくんじゃないかしら。
終わりっていうことを言うんです。新しい始まりっていうことは言うんです。そこまで新しい始まりについて詳しく論じてるっていうことは全くないんですね。
林央開始 15:29
じゃあ、もう終わって終わりってことなんですね。彼の言及は終わって終わりみたいな。
有路翔太開始 15:36
そこの終わるの内実はあまり言及せずにっていうことで。でも関口さんは、そこにもう少し、このメモでも書いてますけど、「人々はダンバー数以下の集団で生活するようになるだろう」「自給自足の（消費集団？）における生活である」。国家はなく、社会もないみたいな。
林央開始 16:02
そのレベルまで崩壊していくんですよね、（しとしては？）。
話者不明開始 16:08
これは理想ですか、それとも予想。
関口浩開始 16:12
予想じゃないですね。理想っていうか、交通、通信、そういうものが、これはメディアによってね、そういう技術ですからね。技術に対する関心をみんなが失ってしまえば、そうならざるを得ないんじゃないかなっていう。
林央開始 16:34
ある程度縮小して不便が出てきて、揺り戻しとかならないもの[聞き取れず]。
話者不明開始 16:40
そういう精神とは違うな、その精神が根本的に（変異？）をすることで、それはいいよね、みたいな感じになる。
関口浩開始 16:40
今でもね、そういう方いらっしゃるようですよ。私、こういうことを前に言ったらば、「僕の村ではね」、群馬県の人なんですけどね。群馬県の谷川岳の方の山村なんですけれども、「今だってね、うちの村で全然海を見たことのないじいさんばあさんとかいてね。その人たちって、うちにテレビとかあるけどね、その人たちが青春時代過ごした頃までは電気がなかったから、テレビもなかったんだよね」。
別に外に行かなくても自給自足なんですよ、ほぼほぼ自給自足。その若い頃はね。最近はそういうわけで電気が来たので、必ずしも自給自足ばかりじゃなくなっちゃう。お子さん、お孫さんまでいる人たちなので世代が違うんだけども、じいさんばあさんたちの青春時代は、電気がないからランプなんですよね。ランプで、それで自給自足で、別に何ら不足はないっていうね。
そういう人が20世紀に、戦後の20世紀ですよね。それも関東地方ですよ、群馬県ですから。
林央開始 18:04
あれは全然知らないですけど、東出昌大さんみたいな芸能人の方も、そんな感じの生活をしてるって聞いたことがあります。これはだいぶ不明な情報なんですけど。これは配信者らしくコメントに真偽を求めておきまして。
関口浩開始 18:25
そういうわけでね、だから意識が変わればね、交通、通信がなくても、別にそれを不便とは思わないって。今、群馬県のことを言ったけれども、アジア、アフリカの少数民族の人たちにはそういう意識は濃厚ですよね。
林央開始 18:43
そもそも過去ずっと、そんなに不便だと思わずに過ごしてきたわけでもあるんです。
文明の崩壊と人類絶滅をめぐる危機感の違い
有路翔太開始 18:49
でも、名前忘れちゃったんですけど、東南アジアのどっかの島で、数年前まではスマートフォンも電気もなく、その場で自給自足してたような人たちに、電気とスマホが今行っているって話を聞いて、その人たちは結構使いこなしてるみたいな。
技術っていうのは、一回便利さを知ってしまうと、[聞き取れず]逃れにくい構造もあるんじゃないかなと思ったんですけど。それが崩壊するっていうのは、どういう仕組みで壊れていくのかなっていう。
関口浩開始 19:36
それは分からないんですね。それこそ、日本の歴史の中でもね、鎌倉仏教の時代とかって、親鸞さんだとか日蓮さんとか道元さんとか、すごい人がゴロゴロ出た。道元さんの『正法眼蔵』っていう長い本があるんですけども、あれは今でも日本思想の人とか研究して、なかなか面白い、なかなか難しいとか言ってやってる。
そういう、非常に宗教精神が高揚したときがあるわけですよね。それ、変わっちゃうわけですよね。[聞き取れず]のかっていうと、なかなか説明難しいですよね。
有路翔太開始 20:24
でも今とか、サイバー攻撃が世界的にずっと増えてて、インターネットも終わるかもしれないし。インターネットに接続している全ての機器がハッキングされて、銀行の帳簿も全部丸消しになっちゃうと、資本主義も終わっちゃうし。そうなると実は自給自足に近い社会になっちゃうんじゃないかって、結構Xの人が言ってたりするんですけどね。だから、それが一つの具体的なシナリオとしてあるのかもしれないっていうのは思いましたけど。
僕らはどっちかというと、資本主義とか近代社会っていうのが、そもそもシステムとして終わるだけなら、割とまだましなのかなっていう印象は持っていて。そもそも文字通り人類が生存できる状況じゃなくなるっていう、この、今すごい[聞き取れず]。akiraさんとか、Pause AI Japanも代表をしてるっていう感じですね。
林央開始 21:37
さすがに全ての人間が死ぬのはあまりよろしくなさそう。よろしくないというか、僕にとってというか、望ましくないだろうみたいな。嬉しくはないというか、だいぶ望ましくない。道徳的実在論に対して肯定的なわけではなかなかないので。
とにかく一番シンプルに言うと、それは自分にとっては少なくとも望ましくない。で、回避しようと思っていて、おそらく多くの人も回避したいだろうみたいな感じ。
関口浩開始 22:13
そこの点がね、グレタ・トゥーンベリさんとかね、日本で気候変動の問題を熱心におっしゃってる、江守正多さんっていう東大の先生がいらっしゃいますよね。よくテレビに出てくる。江守正多さんって、テレビに出てくるときに大変紳士的でね、学者らしい、科学者らしいことをおっしゃってるけども、YouTubeでお話になるときに、もうちょっと本音が出るっていうかね。危機感がとても強いですよね。
だからグレタ・トゥーンベリさんとかああいう人ばかりじゃなくて、Just Stop Oilですよね。美術館の名画にケチャップかなんかぶつけて。ケチャップぶつけても、ちゃんとガラスがあるってことを十分承知しててね。だけども、そうやってニュースを作ってね、メディアの注目を浴びて、その場でもってアピールするっていうね。危機について語っちゃうっていうね。そういう戦術ですよね。
そういう戦術について、[聞き取れず]さんはYouTubeでは理解があるんですよね。「彼らは本当によく気候変動のことを勉強しててね、彼ら本当によく分かったんだよね」ってね。「そこでああいうふうな行動に出ちゃうっていうことを、彼らのそういう危機感というのを理解しないで、頭から常識論で否定するのはいかがなものか」とかってね、江守さん言うわけよ、YouTubeではね。
だけどもね、どっちの言い方をしても、そういうふうなJust Stop Oilも、江守さんのNHKに出てくるときの学者としての、そういう非常に理性的な冷静なスピーチも、非常に力が弱いんですよね。
有路翔太開始 24:26
一緒に会いましたよ。
話者不明開始 24:26
（麻生よっ？）会った気がします。
有路翔太開始 24:32
ちょっと（下書くば新式？）でしたが、ほとんど話せなかったんですけどね。いろいろと対談が忙しい中で、ちょっと横目に座ってね、akiraさんが人類の滅亡の話をしていて、ラジオみたいな感じでいろんな人が乱入してきて、その中に確か江守正多さんもいます。
でも、そのぐらいしか僕、江守正多さん知らないんですけど。気候変動の専門家の方ってことですよね、江守正多さん。
関口浩開始 25:15
だから、早い話が地球上が全部砂漠になっちゃうよね。それで砂漠になる前に食料危機、エネルギー危機が起きてね。そのことははっきり言わなかったけども、私は感じたのは、そういうことになったら第三次世界大戦だよねっていう、こういう感じですよね。
林央開始 25:38
確かに、そのレベルだったら絶対そうなります。絶対そうなるけど、そのクラスだったら。確かに、やばい、危機感の（核？）が上がります。
有路翔太開始 25:52
そうですね。基本的に技術発展の文明的なレベルの話を経済学的な側面から言うと、技術っていうのは人間の数が大きいほど発展が早いって言われてて。もちろん人間の数が大きいほど研究者の数が増えるので、当たり前ですけど。教育システムっていうものが近代社会で作られて、研究者がより量産されて、いろんな発見が加速してきたっていう面も大きな面であると思うんですけど。
やっぱり最近少子化が問題になってて、世界的な人口減少の時代って言われていたりすると思うんですけど、国連の推計でも60年くらいでピークを迎えて、人口がそこから減っていくんじゃないかとかっていうふうに言われていて。
人々は何を目的に技術を発展させているのかはよく分からないですけど、少なくともどっかで満足しちゃって、子供があんまりいらないというか、自分自身の幸福を追い求めるように人間ってなっちゃうんじゃないかなって、個人的には考えて。そうすると、子供を産んで子孫を繁栄させるよりも、自分自身の脳の報酬をいっぱいハックして、幸せになった方が楽しいみたいな。こういう人が増えていってるのが本質なのかなって思っていて。
技術文明の専門化と人間の自己家畜化
関口浩開始 27:34
少子化っていうのはそうですよね。少子化っていうのは大体そういうことなんですけども、その一方で、そういうふうに思う思いっていうのは、やっぱり技術文明の中でそういうふうに思うんですけども。
学校教育にしても、非常に専門的な知識っていうのを教えるわけですよね。日本の明治維新以後、文明開化して何やったかっていうと、西洋的な学問なんだけども、専門的な学問が大学だってわけで、高等教育ってのは専門教育だっていうね。そういうことで、良い人生を送ろうと思えば専門家になれっていうことですよね。
専門家になれっていうことはどういうことかっていうと、私の講義の中での話では、文化人類学の概念を使うんですけども、自己家畜化っていうことなんですよね。自分を家畜化するっていうことなんですよね。家畜っていうのは主がいてね、主に命じられたことをするわけですよ。家畜は自分っていうのはないわけですよ。自分からするってことはないんですよ。
ですけど、自己家畜化以前の人を、私が重視するのは野生の人って言うんですけれども、野生の人は家畜じゃないんですよね。つまり自分があるんですよ。そういうお手本が、例えばイエスさんなんですよ。イエスさんっていう人は、あの人のお弟子に農民って一人もいないんですよね。農民嫌いなんですよ、イエスさんは、はっきり言って。農民って自己家畜化、まさに労働する人でしょ。イエスさんって労働しないんですよね。
労働するっていうことについて、「小鳥さんが労働してますか。小鳥さん、労働してないけども立派に生きてるでしょ。野の花は美しい、きれいな花を咲かせるけれども、あの美しい花は働いて高い着物を買って、それで装ってるわけじゃないの。全然働かないけれども、神様はああいうふうに美しくお花を咲かせてくれるの」って、そういうふうにイエスさんは言いまして。イエスは働いてないんですよね。労働っていうことをちょっとも勧めないわけ。
労働っていうことをキリスト教の中で言ったのはパウロって人なんでね。「働かざる者食うべからず」っていうふうに言ったんですけども、イエスさんはそういうこと言わない。イエスは働いてないもんね。ああいう人ってさ、要するに労働しないで、狩猟採集の人って、採集するって労働じゃないんですよね。
木の実をもいで、つまり聖書の中ではエデンの園ですよ。エデンの園ってあれ楽園で、労働しないんで、木の実を取って食って、それで楽しく暮らしてるわけですよね。そういうのは、日本の歴史で縄文時代の人はそうなわけですよね。狩猟採集でね。そういうのに理想を見るわけですよね。
例えばイエスさんは、だからイエスさんはね、アブラハムなんですよね。アブラハムっていう人は文明以前の人なんですよね。あの人は文字文化以前の人で、定住しないで、羊と一緒にさまよってる人です。遊牧民ですよね。
お釈迦さんもそうなんですよね。お釈迦さんも、あの人はもともと王家のプリンスですよね。でもプリンスで出家しちゃうわけだけども、出家して何してるかっていうと放浪してるわけですよね。一所にとどまらないで、支援者のうちに厄介になって、それで食わしてもらってんで、働いてないんですよね。働いてなくて、だから困った時には木の実も取ってね、キノコも取って。そういうふうで田んぼも畑もないですよね。それはだから狩猟採集なんですよね。
狩猟採集の、さっきエデンの園も言いましたけども、エデンの園ってのがやっぱり理想として思うわけですよ。文明の中には自分たちが、エデンを追放されたアダムとイブは農耕するわけですよね。農耕してる自分たちは楽園から追放されたものだと思ってるわけですよね。そういう意識ですよね。そういう意識っていうのは自己家畜化してない意識ですよね。自分は文明の中にいるけれども、ここは自分のいるべき場所ではないと思ってる人がエデンの園を語るわけですよね。
イエスさんもそういうわけで、エデンの園の住人でありたいと思うわけですよね。お弟子の中に農民は一人もいないっていうのは、思考が表れてると思ったね、私は。
有路翔太開始 33:20
そういう意味で言うと、ニーチェとかハイデッガーとかって近代社会をある意味批判しているようなイメージあるんですけど。
ニック・ランドと加速主義
関口浩開始 33:32
批判は強烈ですよね。私がニーチェから借りてるのは、さっきの自己家畜化は（川田純正？）さんという文化人類学の先生からちょっとお借りしたんだけども、昔から文化人類学では語られてるんですけどね。私が見たのがそれだってだけなんだけども、ニーチェの概念で私がよく使うのは畜群っていう概念なんですよね。
ニーチェは畜群と言ってね、そういう文明人を（言ってる図形する？）んですけども、その畜群って自己家畜化した人たちなんですね。つまり専門家なんですけども。家畜ってさっき言ったように、主に命令されたことをするんであって、自分は主たり得ないんですね。主がないと、要するに食っていれないわけです。餌をもらって生きてる存在ですから、餌をくれる主人がないと、どうしていいのか分からなくなっちゃう。
自己家畜化した高度な専門家っていうのは、文明がね、かつては神様が主だったわけですよ。主なる神がね。だったんだけども、ニーチェは「神は死んだ」と言いまして、神が死んでしまうとどうなるかっていうと、お互いがお互いを支配するんですけども。お互いは分業体制を作って、（分別と？）大きな分業体制を作ってるわけですよね。
大きな分業体制を一層進展させるっていうのが、それは家畜たる自分たちは、自己家畜化っていうんで、手段を目的化するわけですよね。自分たちはそれぞれ専門家として能力を発揮するっていうのが自分たちの本質ですから、お互いにそういうふうに分業体制の中で、お互いの専門性を高めるっていうことは文明を大いに進展することで。
それはそういうわけで、ニック・ランドの、彼の非常に極端な加速主義なんだけども、ああいうことは畜群はそうなるんですよね。主なき畜群は自分たちの能力を、要するに神の代わりに自己目的にするわけですよね。
今、現代思想の中で自由からの逃亡とか、そういうことを言われるわけなんだけども、20世紀の初頭にマックス・ウェーバーっていう学者がいまして、この人は学生に対して非常に不満があるんですね。学生たちは一生懸命、社会の官僚制的組織の中で歯車として、少しでも大きい歯車になりたいっていう、そのことばかり考えてるってね。「あなたの人間としての生き方はどうなってんだ」ってね。そういうことをすごくウェーバー氏は不満に思うんですけれども。
だけども、主なき畜群としては、少しでも大きい歯車になって、自分がそういう文明の進展に貢献できるっていうことが善であるというね。そういう教育を受けてきたし、自分もそれが幸せだと思い込んでいますので。
有路翔太開始 37:27
なるほど。それで言うと、そういうニック・ランド的な加速主義がすごい急速に進展していって、割と理想なんだっていう人たちもいるわけですよね。
例えば、ニーチェとかギリシャ神話を読んで、今後は旧来の哲学が終わるっていうふうに、ニック・ボストロムって人は考えたらしくて。ニック・ボストロムって、もともとイギリスの哲学者ですけど、この人は大学生か大学院生ぐらいに、ニーチェから「じゃあもうこのまま人類の時代終わるんだ」っていうふうに、ちょっとうろ覚えですけど気づいたらしくて。
そうすると技術の時代になるって話じゃないですか。科学技術が主体になる、人間ではなくて。科学や資本が主体になる世界。そういうものを軸に哲学をする（量がある？）っていうふうに考えが変わったらしいんですよね、ニック・ボストロムは。そういう考えもあります。
関口浩開始 38:51
それは非常に、ニーチェの言い方をすると時代的。ニーチェの立場は反時代的なんですよね。技術の進展を多くの人は念願するわけですよ。それは「文明の進展っていいことじゃないですか。人々が豊かな生活をできて、人々が自由になるっていうことはいいことじゃないですか」っていうふうに。これはだから、今、世の中、世界中に蔓延してる思想なわけですよね。それはだから体制ですよ。それと技術の進展って一体ですよね。
技術が進展すれば、我々は豊かな、自由な、安楽な生活ができるようになると。そういうわけですから、それで多少問題があれば、AIのことにしても気候変動のことにしても、技術の進展が解決してくれると。そういうのが多くの人々の信念ですよね。
林央開始 39:56
これ、実は僕の信念でもあったりします。基本的に技術の進展でほとんどの問題が解決可能であるという（ハーツ？）ではありますね。
有路翔太開始 40:11
でも、もうちょいさっきの話、少子化の話に戻ると、技術の発展って人間の数が[聞き取れず]。
話者不明開始 40:26
こっちのメモの（準備速記？）をいろいろやっていくのが一番いいね。[聞き取れず]あるので。
関口浩開始 40:35
メモの先の方まで行っちゃいましたよね。最初は私はごく一般的に日本の人たちに対して、AIの問題っていうと、すぐにAIがインベーダーみたいに悪意を持って攻めてきちゃうっていう、そういうふうな印象を持つ人がかなりいらっしゃるので。「いや、そういうふうに考えちゃちょっとまずいんだよね」ってことを一番最初に言いたいと思ったわけですよね。
一方で「AI大好き」っていうね、ChatGPTってチャッピーとか言ってね、友達にしてるっていう。そういうのもちょっとこれはまずいんじゃないかなっていうふうなところから話をしようかなと思ったわけなんですけど。
林央開始 41:22
そこだと僕は擬人化するのあまり好きではないんですけど、本質的にどこまでいっても擬人化に値しないのかというのは、ちょっと議論の余地があるなと思ってるんですけど、どうでしょう。
AIの作曲能力とデータ化できない知性
関口浩開始 41:39
それは次のシンギュラリティの問題になるんですけども。私は哲学的にシンギュラリティってことを考えますと、哲学ってそういうわけで、なるべく専門のどつぼにはまらないように、広い視野で物を考えると思いまして。人間の知性っていうことも非常に広い視野で考えると、計算能力っていうのは、それはAIはすごいわってね。物理的に捉えられるものって数量化できて、そういう点で操作するのは、それはなかなかうまくいくかもしれない。なんだけども、人間の知性ってそういうものばっかりじゃないんじゃないっていうことですよね。
ここではまず音楽のことを例に挙げたわけですけども、音楽ってAIで作曲できるんですよね。ですけども、AIが作曲した曲、「名曲作って」って言って作った曲を、そういうふうに専門に音楽に携わっている人、作曲家の人が聞くと、「これはちょっと使い物になりませんな」っていうね。それは普通に名曲作ってくれと言っても、そういうデータの中から平均的なものっていうのかね、とにかくその入力ではろくなものが出てこないそうです。
これ音楽のことを例にしましたけども、建築の人が建築の間取りをAIにお願いしたらば、間取りを作ってくれたんだけども、やっぱりこれは使い物にならないってね。条件はちゃんと満たしてるんですよ。言ってる条件は満たしてるんだけども、やっぱり使い物にならないので、いろいろ手を加えなきゃならないっていうことを（言ってない？）んですけども。
そういうわけで、音楽を作る時には、AIに指示を与える与え方に、ヒントがかなりコツがあるらしいんですよね。うまくヒントを与えないと面白く出力してくれないそうなんですよね。大ざっぱに言うと、偶然性を高めるっていうことを言ってましたけどね。すごく民族音楽とクラシックを一緒にするような、そういう概念を（根高させて？）指示したりすると、変なものが出てくるらしいんだけども、そういう変なものの中から、作曲家の人が面白いところをうまくこう。だからやっぱり作曲家の人が自分の手を下さないと、名曲……。AIが要するに材料をくれるわけなんですよ。
材料の中で良さそうなところを拾って、面白い良い曲っていうのを作ることはできるかもしれないけども、それって結局作曲の実力なんですよね。いい耳を持っていないと、それからAIに対していい入力をしないと、いい材料が出てこないっていうね。そういうことらしいので、AIは万能ではないっていうことが、やっぱり言えるんじゃないかなと思うんですよね。
林央開始 45:03
これは個人的には今のAIの能力不足なんじゃないかという話に思うんですよね。例えば数年前、5年ぐらい遡った時の、それこそ（バート？）みたいに言われるような言語AI、[聞き取れず]というか、もっと弱いAIみたいなのを考えると、そこで面白いジョークを言わせるってめちゃくちゃ難しかったはず。面白いと言わなくて、詩を作るとかでもめちゃくちゃ難しかったはずですけど。GPTはちょっと微妙ですけど、そういうふうになって徐々に能力って上がってきてるじゃないですか。昔ほど指示も必要なくなりつつあるじゃないですか。
そうすると、未来に延長した先には「名曲を作って」と言ったら名曲を作ってくれるようなAIがあるんじゃないかと予想してるんですけど。アラインメントが解けてるという前提になるんですけど。もちろん実際に未来のすごい賢いAIに「名曲を作って」って言ったら、名曲を作ろうとせずにあなたを殺して終わるので、あまり当たらないんですけど。アラインメントが解けてるという仮定のもとだと、できるんじゃないかと思うんですが、どうでしょう。
関口浩開始 46:10
次のバージョンのメモ、お送りしたバージョンではないメモ、次に書いたメモでは「将来は本当にAIだけで名曲を作れるようになるだろうか」って書き加えてたんですけども。
でも、それでもやっぱり次のところで、データ化できない知性っていうのがあって、AIに入力が非常に難しい知性っていうのがあり得るんじゃないかっていう、そういうことは言えるんじゃないかな。つまりまず第一に、口頭で言われるだけで文章にならない、あるいは文章にしてはならないっていうことについて、民俗学っていう学問では、そういうことをフィールドにしてやってるわけですよね。
先島諸島の方の（人族？）っていうかね、風習なんですけれども、宗教的に非常に重要なことについては絶対文字にしてはいけないっていうのは、いまだにそういうことらしいんですよね。なので宗教的なことに限らず、文字にできることは、民俗学者に言わせると、ほんの生活の一部分、人間の考えることのほんの一部分なんだよねっていうことを言いますよね。
当たり前と思っていることは書かない。だけど、当たり前と思っていることは結構人々の生活にとって大切なんじゃないのってことが、民俗学っていう学問のテーマなんですよね。つまり、それを文字化しようと思うんですけども、非常に広大な領域でね、それを文字化する努力をしていても、とても間に合わない。やっぱり人間の意識ができることっていうのは、文字化できることっていうのは、データ化できることっていうのは、人間の一部分じゃないのかなっていうことを、民俗学の人は思っているようですね。
林央開始 48:17
例えば非常に優れた作曲家、名曲を生めるとされる作曲家、例えばベートーベンとかバッハとかを考えてみると、彼も究極的には入力を得てるわけじゃないですか。入力といっても彼の体の感覚とか音とか、目で入ってくるものとか。結局ある意味で全部、神経で電気信号に変換されて脳に送られていくじゃないですか。そうすると究極的には、すごい極端な話をすればバッハのデジタルコピーを作ることができるようになるんじゃないかと思う。
身体性のデータ化と人間の知性の限界
関口浩開始 48:55
それが次のところに書いてある身体性とデータ化っていう、そういう問題なんですけども。AIは基本的には身体がないわけですよね。なんですけども、この身体っていうのはなかなか複雑ですよね。
ここでダンサーのことを例に挙げてるんですけども、（手塩原？）さんっていうダンサー、私ちょっと親しいんですけれども。この人は言うんですね。自分がレセプターになるんだっていうふうに言うんですけども、足の裏で体重を感じてるんですよね。呼吸をしていて空気を感じてるんですよね。そうやって考えて動くんじゃないんですよ。考えて動いちゃダメなんですよね。考えないで体が動き出すのを待つんですよね。という、非常に身体性なんですよね。頭で出てきたアイデアでダンスをするっていうのはダメであって、体から出てこなきゃダメだっていうね。素材から出てこなきゃダメだっていうね。そういうやつなんですけども。
それはだから、目は開いてるんだし、耳は聞こえてるんだし、鼻は匂い嗅いでるんだし、足の裏は感じてるんですし、足の裏だけじゃなくて腕も感じてるんですし、全身で感じてるんですけども。それを一度に感じてるんですよね。一度にそういうのを感じていて、それを神経を通して脳に通じてるんですけども。哲学では脳に局在化してるっていう考えに対しては非常に批判がありまして。（でもあり？）、足でもありっていうね。全身が[聞き取れず]なんですよね。局在して考えてはいけないって哲学でよく説くんですけども。
それをいかにデータ化するかというと、全身のすべての神経をデータとして捉えるっていうのは、非常に難しいっていうか。それでね、神経に通っている電気を捉えても、それが人間の思考にどういうふうに反映してるのかって、人間はそれを自覚できないんじゃないですかね。というので、人間はつまり自分を知り得ないっていうことが一方にあって。いかに観察しても、だんだん自分のことが分かるかもしれないけど、究極的には自分は自分が分からないっていう。人間は人間のことは分からないっていうところに、今も突き当たると思うんだけども。これは人間というものの限界なんじゃないかなっていう感じがするんですけどね。
というわけで身体性ということはそういうふうな感じで、結局、人間が人間を知り得るか。その身体っていうもの。だから、かつて身体と精神との二元論っていうのがあって。二元論って近代でデカルトっていう人が言ったんですけども、いかに違うかっていう、そういうたくさんの例が出て、その問題っていうのが、哲学の中ではデカルトを克服するっていう感じで現代哲学になるんですけども。
それはだから、どこまでデータ化して、どこまでそれを作用反作用だとか、そういう作用関係だとかで捉えることができるかっていうと、つまり人間機械論でいけるかっていうと、それはかなり難しいんじゃないかなっていうね。結局、人間の知性の限界（中事？）になっちゃうんじゃないのかなっていう議論がありますがね。
林央開始 53:18
個人的にはやっぱり最終的には、全ては難しいけど、多くのデータを取得するみたいなことは多分できるようになるんじゃないかと思って。でも多分これは、（首相？）、（信念の証拠が出尽くしている？）ような状態だと思うので、あれかもしれないと思いますね。
そのダンスができるかできないかが、後半にどう影響するのかちょっと気になっているところがありまして。でも仮にダンスができない、（将来のように？）ダンスができないとして、それがどれほどの意味を持つのかみたいなところはあると思うんですよね。その知性として認めるかという話はあると思うんですけど、多分、依然として全ての人類を殺すことはできるようになると思います。
関口浩開始 54:12
それは私も、可能性としてはあると思うんですよね。つまり計算能力だとか理性的な能力とかっていうのが、人類を滅ぼすっていうね。それの可能性はあるわけですよ。それは歴然とあるわけ。それはAIという前に、17世紀以来の近代文明っていうのがどれだけ。日本も危なく、明治維新がうまくいかなきゃ支配されてね、[聞き取れず]ことになっちゃったかもしれないけども。
多くの、それこそ狩猟採集民族なんていうのは、そういう植民地支配を受けて、そういう生活を、要するに例えば定住しない人たちが定住を強いられて、それでそういう啓蒙主義的な教育を強いられてっていう形で、固有な民族を失っていくっていうことはあったわけですよね。
だからそういう17世紀以来の理性ですよね。理性、計算能力。そういうものが人間を支配するっていうことは、一方であるっていうことはそうだと思うんですよ。それが実力があるっていうね。自然を支配する力があるっていうのは、その通りだと思うんですよね。だけどそれは、理性っていう人間の力がそういうふうに猛威を振るうことができるっていうことですよね。
ですけども、その外側に、そういう理性的な17世紀以来の近代的な知性とは違う知性っていうことが、たくさん人間にはあり得るっていうことを私は言いたいわけなのね。それは非常に理性の中から見ると力が弱いんですよ。ほとんど無視してもいいくらいに、これはノイズに等しいとかっていうふうに、理性の中から見るとそう見えるんですよね。
ですけれども、そこから離れて外に出ると、理性を信じてるっていうのは決して根拠があるわけじゃないんですよね。無根拠なんですよね。これ、いつ人間っていうのは転がっちゃうか分かんないんですよ。つまり外側に出ちゃうかも。理性を信じなくなって、計算能力を信じなくなって、芸術を信じちゃったりするっていうね。そういうふうに転んじゃって。だから外側から、昔はそういうふうに啓蒙主義を信じてたり、デカルトを信じてたよなっていうふうに、人間は変わっちゃうことがあり得るわけなんですよ。今、文明の中でもそういう人がいるわけですよ。
有路翔太開始 57:14
一方では今のAIって、ロジックで動いてるってよりは、人間の脳のニューロンを一度参考にしてニューラルネットワークっていうのが使われてて。実は結構、どうやってAIが今内部で動いてるかっていうのは、人間がどうやって成長するのかと同じように結構分かんないような仕組みになっていると言われていて。
そうすると理性的な能力っていうのが、ある種すごい数学的に記号で表されてロジックで描ける知性っていうよりは、もっと直感能力もすごい今AIって優れてると思っていて。芸術的な能力とか、そういったものが、ある種言語化した言語によって何らか思考するものではなくて、もっとアナロジーを使ったり、感覚的なイメージで物事を考えるっていったことは、割と今のAIの基盤の仕組み的には、むしろ直感的な思考能力に近いものがすごいガーッと進歩してて、理性的な力にも結果として繋がってしまってるんじゃないかなっていうことは感じるんですよね。
だから（一言一つ？）AIの方が人間らしくなるんじゃないかなっていう気はしますね。人間はもっと（ドパガキ？）みたいになっちゃうかもしれないですけど、AIの方がもっとより豊かな感性とか、より豊かな芸術作品を生み出し得るのかなとは、ちょっと思いましたね、今の話を聞いてて。
関口浩開始 59:22
今のお答えを聞いてて私が今思い出したのは、チャールズ・ペローの『ノーマル・アクシデント』っていう、あれを思い出しましたよね。
そういう高度に複雑なシステムっていうのは、その中で思わぬ相互作用が起きて。思わぬ相互作用が、そこが非常に人間的、あるいは超人間的っていうふうに思われるのかもしれないけども、その部分と部分が予期しない経路で繋がって、外から見ている運転員にも管理者にも何が起こってるのか分かんない状態でね。
そういうことを、スリーマイルアイランドの原発事故を調査したチャールズ・ペローっていう人が、ノーマル・アクシデント。異常事態とは見えないんだけれども、ノーマルな状態なんだけれども、そういう原発事故を起こしちゃったっていうかね。そういう高度なシステムっていうのが、人間の監視者の思いもよらぬ作用をするっていうこと。そういうことを今おっしゃったような気がしたんだけど。
有路翔太開始 1:00:48
そうですね。だから計算機というのが発明されて以来、その計算機って、もともとは計算、つまりロジックをどうやったら外在化できるかっていうモチベーションだったと思うんですけど。ロジックっていうのがどんどん外在化されていくと、それが勝手に動き出して、あたかも自然の中の一部のようになってしまう状況が、すごいメタ的なレベルで言うと起こってるのかなとは思いますね。
関口浩開始 1:01:24
オートマティックになるってことですよね。自動機械が非常に複雑化していくっていうと、外から見てる人には何が起こってるのかよく分からなくなっちゃうっていうね。で、いよいよ高度化するとブラックボックス化するわけですよね。そのことが非常に危険だなというふうに私も思っているんですけれども。
それは一方で危険だというふうに思うんですけども、一方でそれは、人間で言うとやっぱり意識の面のことで、やっぱり一種のロジックだと思うんですよね。私はどこまで行ってもAIは機械であって、それは記号化できないようなことをやってるようだけれども、中はやっぱりデジタルでゼロと一でできてるんだっていうね。そういうふうに私は思うので、人間はゼロと一でできてないと思うんですよね。この有機体っていうのはね。
なので私は、そういう意味で作った道具であるAIは、どこまで行っても人間の能力をカバーして、それをシンギュラリティみたいに超えるっていうことは、それは部分的には超えるかもしれないけども。シンギュラリティ論者が優れてる、優れてるっていう能力、それにとって人間のそういう部分はノイズみたいなものかもしれないんだけども。そういう部分というものが、実はシンギュラリティの先にある林さんが危惧するような、そういう人類の自滅みたいな危機に対して、ノイズみたいな知性っていうのは、私はそこに救いがあるんじゃないかなというふうに思ってるわけなんですけどね。
有路翔太開始 1:03:50
そこに救いがあるっていうのは、どういった意味合いなんですかね。もうAIは[聞き取れず]進歩していって、人間の能力をほぼ。あ、でもそこから違うんですね。ほぼ全般的に超えるっていうふうに言いますけど。
林央開始 1:04:11
全般的に超えるとややこしいので、滅亡させることができるのは確かという、それで[聞き取れず]定義しやすいものにしてみましょう。「戦略的に重要」といろいろみんな言うんですけど、多分、絶滅させられるが一番シンプル、一番重要なポイント。
AI開発を支える人間の意識と脱成長運動
関口浩開始 1:04:32
私はね、当然のことながら最悪の事態というのを想定しないと、それは机上の空論になるので、林さんの言うことはその通りだと思うんですよね。つまり最悪の事態はそういうことだと思うんですよね。で、その最悪の事態をもたらすのはAIあるいはAGI、それが単独でっていうことじゃないと思うんですよね。
皆さんよくおっしゃるじゃないですか。生物兵器をAIが作るんだけども、フィジカルAIは必要ないんだと。フィジカルAIなくたって、AGIは生きてる人間を操作して、人間を操縦して作っちゃうからね。要するに人間はそういうふうにAGIに支配されちゃうからね、全然フィジカルAIなんか必要ないよ。そういうことをおっしゃるわけですよね。
なんだけれども、そういう人間が一方でAIを進歩させてるんですよね。確かにその部分を見れば、AIはAIで自己改造してね、自己改善して、自分自身でバージョンアップしてくってね。見ればそうなんだけども、やっぱりそういう（例？）を作って、そういうふうにさせているのは人間なんですよ。
やっぱり人間はAIをそういうふうに直接開発してるっていうところを、2025年あたりAnthropicのエンジニアの人たちは「ほとんど今は私たちコード書いてませんよ」とか言うけども、それでもAI開発してるわけですよね。AI開発してるからPause AIで、少しその開発を緩めろっていうことを言えるわけでしょ。だからAIの進化、進歩っていうのは、どこまで行っても人間と一体化してるんですよね。人間がそういうふうにデベロップメント、進歩をさせようというふうに開発しようと思わなければ、AIはやっぱりPause AIなんですよ。ポーズなんですよ。それは止まるんですよね、（審判ね？）。
なので、やっぱり生きてる人間の方の意識というのに、どういうふうに働きかけるかっていうね。その人間の知性の問題として考えると、一生懸命そういうふうにテクニカルに考える部分の脳とは違う脳の働きを、そこに私は、その働きが活発になればね、そこには救いがあるというふうに思うわけ。
それをもしかしてそうじゃなくって、AIと一緒になって「より良い未来を」って言うんで、いよいよ開発に没頭すれば、「いや危険があるんだ」と言っても、それは実際ストップはかからない。
斎藤幸平さんという人がいてね。あの人は脱成長論っていうんで、経済哲学の人なんだけども、2020年に気候変動の問題を非常にクローズアップして本書いたんだよね。彼は資本主義がいけないっていうんですね。あの人はマルクス主義の研究者で、資本主義がいけないんで、脱成長コミュニズムっていうのを彼は提唱しまして、それを目指さなければ人類に救いはないっていうふうにおっしゃったんだがね。それは2020年なんです。
今年、本を続編じゃないけども書きましたけども。彼が言うには、私が彼の言ってるのを聞いてると、諦めの境地ですよね。あの本を書いたけども、それで東大の先生になったけども、それで世の中変わったかというと全然変わらないわけです。去年の温室効果ガス、二酸化炭素の排出量は史上最高なんですよね。
21世紀の初頭にアル・ゴアっていう、アメリカの元副大統領だった人が『不都合な真実』っていう映画を作って。だからもう20年前に温室効果ガスの危険性っていうのを、人類に対する非常に危険性って指摘して、それであの人ノーベル平和賞もらったんですけども。その後どうなったかってね。それは江守さんがそれを言うんですけれども、あの時は良かったと。だけどもその後リーマンショックなんかがあって、もうそういうような関心が一気にぶっ飛んじゃって、要するに世の中変わらない。だから去年の温室効果ガスの排出量は史上最高っていうふうになって、ストップはかからないってわけですよね。
多くの人がそういうふうに大学に行って高等教育を受けて、そうやって専門家として自分の人生をデザインしていくっていうね。そういう多くの人たちの関心のもとにあって、温室効果ガスを削減するってね。それって要するに技術文明にストップをかけるっていうことを、脱成長なんですね。経済成長を少し鈍化させるっていうね。反成長を言ってるわけじゃないです、あの人たちね。反成長じゃなく脱成長ってね。成長すべきものとそうじゃないものを選別してね、少しブレーキをかけようってんだけど、全然ブレーキかからないわけです。
だからJust Stop Oilっていう人も必死な訴えをするんだけれども、世の中変わらないんですよね。本当に変わらないんですよね。それはどういうことかっていうのが大問題ですよね。
有路翔太開始 1:11:04
[聞き取れず]、僕、全然（かわしたいない？）んですけど、地球温暖化の場合は、資本主義が成長することで解決って考えてる人と、脱成長しないと解決しないって考えてる人の信念がぶつかり合うっていう面が、もしかしたらあるのかもしれないなって、今聞いて思ったんですけど。
関口浩開始 1:11:24
ぶつかるんですけども、脱成長の人はあまりにも少数派なんですよね。斎藤さんの本は売れましたけども、何万部かな、10万部ぐらい売れたかもしれないけども。10万部売ってね、10万人の人が斎藤さんと同じように脱成長コミュニズムを信じて、そのためにアクションを起こしたかっていうと、その中の1%の人もアクションは起こしてないわけですよね。多勢に無勢というか、桁違いの少数派ですよね。
有路翔太開始 1:12:01
一方で地球温暖化の場合は、多勢に無勢、止めろ派が不利ですけど、AIの進化の場合って、そうですね。
林央開始 1:12:16
止めるコストが全て潜在的なことがあるんじゃないですか。多分これ、今暗黙の議論の対象みたいなのって、開発停止ができるか、活動の結果として開発停止が可能であるかみたいな話になってると思うんですよ。その中で温暖化の例を取って、それはなかなか難しいんじゃないかみたいな話だと僕は解釈してるんですけど。
その中で人類絶滅論が特別だなと思うところは、多数派がまず賛同していることと、アメリカでも日本でも世論的には基本的に規制に賛成なことと、温暖化って止めようと思ったら生活を若干不便にしなきゃいけないじゃないですか。斉藤さんが言ってるようなことは、割とそれに近い方向な気がしますけど、AI開発停止ってそうではないと思うんですよね。止めるコストとして発生するものって基本的には、AI開発を続けていたら追加で得られたであろう、まだ得られていないものだと思うので、世間的に放棄しやすいんじゃないかと期待をしてるんですけど、どう思われますか。
関口浩開始 1:13:36
そういうわけでね、AnthropicのアモデイさんっていうCEOの人が、今年だったかな、長いレポートを書いたし、今度、株式公開するにあたって、また長いAnthropicの文章を出して、その今度の文章の3分の1はAIの危険性について延々と書いてるって言うんですよね。だから、AIの産業界の人たちが危機について認識が深いっていうのは分かるんですけども。
だけど経済の専門家の人に言わせると、あれはいつか法廷闘争になった時に弁護してもらえるように、責任の所在をそういうふうに法的に自覚していたっていう。思わぬことが起きたとしても、私たちとしてはそれは意図したことでは全くなくて、私たちとしては十分それに対して、それが起きないように努力してたんだっていうね。そういう事態に対する自己弁護のための（大量？）なんていうふうに言ったりするんですけども。
それはそれとして、そういうふうにサム・アルトマンもAIの危機について言ってるわけですけれども、ホワイトハウスにね、そういうわけで政府に規制をしてもらえねえだろうかって、この間から、先月かな、今月かな。先月ですね。ホワイトハウスに行ったらば、トランプさんは「いや、政府としては規制するつもりは全くない」って言ってね。「それはお前ら勝手にしろ」っていうふうに言って、政府が規制することに対してはノーと言ったわけですよね。
それはかなり多数派なんじゃないかと私は思うんですよね、規制をするっていうことに対して。つまり今、産業界でAIの利用が非常に進んでるんですけども、そういう産業界の、AI業界じゃないんですよ。AI業界じゃない、IT産業でもない。ビル・ゲイツも反対したって言いますからね。
ちょっと余談になっちゃうけども、あの人も20世紀でね、Windows 95とかあの時代に、もうコンピューターの将来の危機について語ったんだよね。こいつもなかなか先見の明があるなと思ったんだけども。そんな感じでね、IT業界なんかの人たちの危機感はあるんだけども、アメリカの産業界全体としてはやっぱりトランプみたいな感じでしょう。なのでやっぱりAIの産業界のリーダーの人たちって、アメリカの経済界全体として見ると、やっぱり少数なんじゃないかと思いますよ。あの人たちのそういう認識があったとしても。
それで今度のトランプははっきりと、政府としてはそういう規制する気は全くございませんっていうふうに言って。要するに加速主義者って、加速論者って規制反対でしょ。あの人たちがやっぱりシリコンバレーでは力があるわけよ。ピーター・ティールみたいな人は規制反対でしょ。ああいう人たちが一方で、ピーター・ティールってさ、やっぱり今のホワイトハウスに近いよね。加速論者ってホワイトハウスに力あるよね。なので規制しなきゃいけないっていう、そういう人たちがいる一方で、ピーター・ティールみたいな、そういう加速論者が。
やっぱりイーロン・マスクって人もよく分かんないね。あの人も前はそうやってAIの危険性について、そういう文章にサインしてるんだけれども、あの人を見てるとトランプの近くにいて、加速論じゃないの。そういう規制に賛成してるっていうふうに見えないんですけどね。
個人のことはともかくとして、全体として見ると、やっぱりAIの開発を規制するっていうのは少数派じゃないかと思うんだけど、私は。
林央開始 1:18:20
これは世論調査があって、そこでアメリカ国民は比較的多数派が賛成しているという結果がありますね。結構かなりの割合が賛成している。
関口浩開始 1:18:32
国民はね、国民はそうだと思うんだけども、産業界の、AIとかIT産業じゃないですよ。多くの産業界のリーダーたちは、あるいは経営者たちは、そうじゃなくてむしろ加速論の方に賛成してるんじゃないかと思うんだけど。
林央開始 1:18:54
それはあり得ると思う。それは多分誰も統計取ってない。それは怪しいですけど。ただ絶滅論を認知してる人が多いのもまた事実。一般的な企業になると怪しいですけど、ある程度近接してる領域だと危機感を持ってる人が多い。
けど彼らの政治的影響力がそれほど大きいのかに疑問というところがあります。国民が「仕事が奪われるし、死にたくない」とかって、国民の過半が非常に強く言っているときに、政府が全力で無視するかというのには僕はかなり懐疑的だったりしますね。下院でも上院でも注目が集まって、議会でブリーフィングとかもあるので、議員たちも結構危機感を持ち始めていますし。最終的に一般企業の人たちが加速主義であることがそれほど（裾のだけ？）になるのかは、僕は結構懐疑的です。
有路翔太開始 1:19:55
そうですね。あとタイムラインがすごい短いっていうのもちょっと問題かもしれないですね。これが50年先の話だったら、（その子は高に？）批判、否定する人っていないかもしれないんですけど、これが来年、再来年、もしかすると5年以内にすごい賢いAIが出てきてしまうと。
人間って保守的なので、すごい急速な変化を嫌うと思うんですよね。今まで起こっていた日常生活が壊れることが、僕個人的な感覚だと嫌な人が多いのかなというか、[聞き取れず]の生活をしたい生き物な気がするので。そこで、タイムラインが短いっていうところが、規制派の（追い風？）にすごいなっている感覚は今あります。
気候変動とAIに共通する危機感と社会の反応
関口浩開始 1:20:57
私はそうあってほしいと思うんですけれども、今そういうふうにおっしゃられたので思ったんですけども、グレタ・トゥーンベリさんがね、「気候危機は遠い未来の目標、2030年だとか2050年などを設定して、のんびり解決する問題ではない」と言いまして。気候変動の問題について言ってる人も、遠い将来の問題なんかではないというふうに、2030年に解決しようってね、そういうような問題ではないというふうに言っていて。
あるポイントを超えちゃうと、もうストップがかからないって言うんですよね。それが平均気温が1.5度上昇とか言うんですけども。去年だったか、江守正多さんは「今年は1.5度超しましたね」とか言うわけ。「でもこれは一時的だから恒久的じゃないので、ティッピングポイントを超えたわけじゃないんだけども」とか言ってたんですけども。だからそういう後戻りできないというね、そういう段階っていうのは、気候変動の人にとってももうすぐなんですよね。
有路翔太開始 1:22:24
そうですね。気候変動の場合は、理論的にこの閾値を超えるとやばいっていう点が示されていて、それがあまり世間に認識しづらい形で進行するっていうところがあると思うんですけど。AIの場合は本当に開発したら、割とすごい短い区間でリリースされていって、どんどん社会を変えていくというか。
目に見えてChatGPTが出てきて、2、3年でみんなチャッピーっていうようになったような形で、すごい社会的な影響力が温暖化よりはすごい分かりやすく出てくるっていうのが、結構私が希望を持っているところではありますよね。
林央開始 1:23:17
もうこれ、（開発ができるかできないか？）は多分これぐらいが、（材料出尽くした？）。
話者不明開始 1:23:25
そうですね。トピックを動かしてみましょう。トピックというよりも、このメモのやつをコンプリートしていくみたいなスタイルでやっていこうと思ってるんです。せっかくいただいたので。
関口浩開始 1:23:51
今グレタ・トゥーンベリのことを言ったので、やっぱり気候変動の問題に対する危機感とAIに対する危機感というのを、私は両方とも大変興味があるんですよね。両方とも同じ問題に直面しているというふうに私は思っている。
つまり一部の人は大変危機感を持ってる。さっき言ったように江守正多さんだとか、Just Stop Oilの運動している人とか、そのグレタ・トゥーンベリだとか、そういう人は大変な危機感を持ってるんですよね。[聞き取れず]はNHKに出てくるときは大変、学者として紳士的な態度で出てくるんだけども、本音はね、だからJust Stop Oilの環境テロリストに、ある意味共感してるっていうね。そういうすごい危機感があるわけ。
林さんみたいにAIのことについても大変危機感のある人がいて、それはAI業界のサム・アルトマンだとか、ああいう人も共有している危機感なんだけれども。それだけの危機感がありながら、気候変動の方はそういうわけで去年の温室効果ガスの排出量が史上最高とかになってるんだけども、AIの方も私はそういうわけで、ホワイトハウスのトランプのああいう（応対？）を見てると、林さんはポーズっていうわけだけども、ちょっとストップして考えなきゃいけないっていうね、そういうご意見が世の中に通じてないんじゃないか。
日本もそういうわけで、今年の正月だったかな、春だったかな。そういうAIの法律を作りましたよね。AIの危険性のことについて法律の中で触れてるんだけれども、それよりもあれを普通に見ると、やっぱりAIの開発をどんどん進展していかないといけないというところに重点がありますよね。今の高市内閣のAIに対する態度はね。
それがだから気候変動の人たちと、分かってる人は分かってるんだけれども世の中動かないっていう点で非常に共通していて。おそらくそういうことに対しては、いわゆる常識的な対応では駄目なのであって、そこで環境テロリストみたいのが出るわけなんだけども、環境テロリストの人が頑張っても駄目なんだよね。
あれはそうやって一定のメッセージをメディアを通じて人々に知らせることができて、だから分かってる人には、いよいよ深刻な危機感を持たせることは効果があるんだけども、多くの人は（一本で？）忘れちゃうんですよね。そのことは結構どうしようもないなっていう感じがして。
そうするとニック・ランドが言うみたいに、そういうふうに我々は文明と運命を共にして自滅せざるを得ないっていうね。そういうふうなことが我々の未来なのかと。
ニック・ランドはメモに書いたけども、要するにあの人はキリスト教的なんですよね。人間の使命は自分の幸福の追求とか、自分の安楽の追求なんかじゃなくて、技術文明の進展こそが人間の使命なんであって。その使命というのはアンチヒューマニズム**なわけですよね。人間中心主義**を否定するわけです。これキリスト教ですよね。
人間は神に与えられた使命を果たすべく誕生しているのであって、自分の命のために人間はいるわけじゃないんだっていうね。キリスト教はそうですよ。神の創造した人間っていうのは、神が与えた使命を果たすべくこの地上に生まれてきたものなんであって、神の与えた使命を果たしたならばもう用済みだってね。用済みだっていうことをニック・ランドが言うじゃないですか。そういうのってキリスト教的な、そういう風土の中からは、ああいうのが出てくるんだなと思うんだけれども。
だから林さんは人類の絶滅っていうのはあまり好まないとおっしゃるけれども、ニック・ランドはいいんだよっていうふうに言っちゃうわけですよね。
話者不明開始 1:29:01
[聞き取れず]全然いいよみたいなことを言っ[聞き取れず]。はっきりそう言ってるわけじゃないけど、そう言ってるんじゃない。
関口浩開始 1:29:09
つまり人間がそういう役割を果たすようなことがなくなったならば、もう人間に存在理由はなくなるという。
有路翔太開始 1:29:19
個人的に思うのは、加速主義の人って、ニック・ランドは分かんないんですけど、ピーター・ティールとかはAIを過小評価してるなって思ってて。むしろAIをそんなにすごいものになるって思わないからこそ加速主義なんじゃないかなっていうふうに、僕は個人的に思ってるんですよね。
なのでもしかしたらニック・ランドも、AIっていうのは人類を本当に滅ぼすレベルを想定してなくて、単に人間が別の存在になっていくとか、いろんな生活様式が変わって人間の精神って変わっていくじゃないですか。そういう意味で、非連続的な、文字通りの、シンプルに隕石が降ってきて全滅みたいな話じゃなくて、文明が別のものになっちゃうみたいな。そういうイメージでニック・ランドが人類の終わりっていうのを捉えているとしたら、実はニック・ランドとかピーター・ティールも、本当に人類が絶滅するって分かったら止めようとするんじゃないかっていうふうに、僕はなんとなく思います。どうでしょう。これ詳しくないんで分からないですけど。
加速主義のキリスト教的背景と人間の存在理由
関口浩開始 1:30:40
先のことはね。ピーター・ティールもね、あの人は本当にクリスチャンでね。なんだけども、彼はだから言ってることはアンチヒューマニズムなんですよね。人間は自分自身の幸福を求めるっていう、そのヒューマニズムに対しては、それは人間中心主義だっていう感じで、あの人はちょっと批判的なんですよね。それはあんまり、彼も公ではあんまり言わないんだけども、本の中ではそんなこと書いてるんですよね。だから真っ当なクリスチャンかもしれないんですけども。ですから彼ら、そういうクリスチャンですけども。
ニック・ランドはそういえばね、20世紀の神学者のカール・バルトっていう人がいるんですけども、カール・バルトっていう人は本当にキリスト教っていうのは、人間のために神がいるわけじゃなくて、神のために人間がいるんだっていうことをしつこく説いた人なんですけども、カール・バルトの名前をニック・ランドは挙げてるんですよね。
なので、そういう人間の存在に対して自己目的っていうことを否定して、文明自体の自己目的、文明自体の進歩が目的なんだっていうね。そこは全くキリスト教的に、彼は全く整合性のある理論を言ってるんですけども。その理屈で言うと、やっぱり文明の進歩に対してストップをかけるっていうのは根拠がなくなっちゃうんですよね。それは人間のためだろうっていうふうになっちゃって、根拠がないんですよね。
有路翔太開始 1:32:49
ピーター・ティールとかも実は、すごい純粋なトランスヒューマニズムではない気もしてて。例えばマインドアップローディングとかってご存じですか。人間の精神をコンピューターにアップロードして意識を計算するっていう。そういったことを基本こっちの界隈ではみんな求めてるんですけど、求めがちというか。マインドアップローディングとかしてポストヒューマンになりたい人が多いんですけど、ピーター・ティールってそれには否定的なイメージなんですね。サイボーグまではいいけど、人間の身体性がやっぱり重要で、そこで結構強く生きるべきだっていうような、キリスト教の。
関口浩開始 1:33:35
与えられたもんだからね、この身体は。
有路翔太開始 1:33:39
ある意味キリスト教の中でも、すごい相反する2つのベクトルがあって、神をある種超えていって、人間が神になるんだっていうベクトルと、神は神でちゃんといて、その統治のもと人間という存在はその存在のまま共同体で暮らしていくべきだっていう。2つの流派というか、分岐した結果、トランスヒューマニズムっていうのと、ある種、人間、生そのものの（賛歌？）の違いに、ベクトルが変わっていったのかもしれないと思いますね。
関口浩開始 1:34:23
どちらも私は同根だと思うんですけどね。つまり現代という時代ですね、神なき時代。つまりさっき言ったように（畜群？）なんですけども、主なき（畜群？）というふうに思うわけですけども。それは大衆社会って言ったらいいんですけども、自由に耐えかねてるんですよね。自由に耐えかねてるんで神様を作っちゃうっていうね。そういうふうに信仰に走るね、無理やり神様の信仰に行っちゃうっていう。
だからアメリカのね、ピーター・ティールさんとかさ、そういう最近のシリコンバレーの人たちが一気にキリスト教に走っちゃってるっていうのは、そういう傾向かなと思うんだけども。一方で、神なき時代には自分が神になっちゃうんだっていうね。そういう仕方で神なき時代のつらさを耐えちゃうっていうね。
だからどっちにしても根本にあるのは、主なき（畜群？）がどうしたらいいか。主がないことに対して主をでっち上げるか、あるいは自分が主になっちゃうかっていう。そういうことで、根本にあるのは主なき（畜群？）っていう事実じゃないかっていうふうに、（認知的に？）私は思うんですけども。
有路翔太開始 1:35:42
だから主従関係っていう精神、二元論的なものはそのままにしていて。それはどうなんですかね。そういう主従関係みたいなのがそもそもないような生活形式が狩猟採集時代であって、そういう話ですよね。
関口浩開始 1:36:01
そうです。高等教育を受けた人たち、みんな専門家になっちゃって、みんなそういうわけで主がないと。つまり自分は一枚の歯車にすぎないので、一枚の歯車を取り上げると全く無価値なんですよね。一枚の歯車は全く無価値。社会っていう大きな機械の中にいると機能するわけですよ。
だけどもみんなで機能して、それは文明を進歩させるんですよね。そういうふうなことにみんな幸せを見いだすわけです、文明の中の人はね。AIもそれで進歩させるし、たくさん温室効果ガスを出して産業も進歩させるんですけども。
有路翔太開始 1:36:52
だから、エリーザー・ユドコウスキーって人がいて、ご存知ですかね。
関口浩開始 1:36:59
メモの一番最初に言う話、今の話のところでも引用してるんですね。どこだったかな。この（擬人間？）の問題っていうことですよね。
有路翔太開始 1:37:14
エリーザー・ユドコウスキーさんは、もともとすごい加速主義だったって言われてて、もともとは人工超知能を作って人類の問題を全て解決したいっていうふうに、1995年か6年か7年ぐらいに言ってて。AIのシンギュラリティを起こすための研究機関が作られたんですよね、最初。
つまり結構最初はすごい加速的だったんですけど、途中でむしろ加速が人類を文字通り終わらすってことに気づいてから急速に反転して。AI以外の技術は全然加速していいのかもしれないですけど、AIだけは特別だっていう。
最終的にトランスヒューマンになっていろんな進化をするためにも、そもそも自分が絶滅したら意味がないっていうところで、加速主義の中でも流派がそこでバーンって分かれて。2000年代（という半？）に、こっちがある意味でAIの安全性という分野を作っていく。つまり加速主義の分派の一つが実は作ってるっていうところはあるのかなって思いましたね。
歴史的な話になっちゃうんですけど、そのエリーザー・ユドコウスキーさんの組織で今、林、akiraさんは働いてるっていう形で。
関口浩開始 1:39:06
そうですね。それは（AIセーフ？）って言って、AIでもってAIをコントロールする、規制するっていうことですかね。
林央開始 1:39:18
いや、普通に規制しますね。
関口浩開始 1:39:21
普通にってどういう意味で？
林央開始 1:39:23
AIを用いてという要素を必要とせずに、という意味ですか。
関口浩開始 1:39:27
それは、ではどのようにして？
林央開始 1:39:30
それは普通に開発停止という、核兵器の時のやつがもっと（別に？）近いです。現在のAI開発に必要な非常に巨大な、一定以上の計算量で閾値を決めて、これ以上のサイズのデータセンターは国際的な監視下に置かれますということです。
関口浩開始 1:39:49
そうするとそれはかなり政治の力ですよね。
林央開始 1:39:51
そうです。政治の力に期待しているということですね。もともと僕がいる機関とか、僕も含めて（VR？）の人たちはみんな、政治的な動きはやっぱり時間かかるし成功率も低いから、安全にする技術を作ろうっていうのを取り組んできたんですけど、間に合わないということで。[聞き取れず]判断をスイッチして、みんなじゃないです、結構多くの組織が判断をスイッチして、（開始しよう？）って言ってる状態。
有路翔太開始 1:40:24
ただ、ある意味で、また文明の[聞き取れず]話になっちゃうかもしれないですけど、地球温暖化を止める人のモチベーションとか、例えば斎藤幸平さんのモチベーションの話って、もう少し人間社会って進歩しなくていいじゃんと。進歩しなくてよくて、もっと共同体とか、もっと小さい世界で人類って満足するんだから、そういう世界を目指そう。そういうモチベーションなんだと思うんですけど。
どちらかというとAIセーフティーの人って、人類はもっともっと進化して、宇宙を超えて、太陽系を超えて、天の川銀河まで広がって、最終的に観測可能な宇宙全体を満たすだろうと、人類の文明が。それを目指すために規制しようっていう、結構モチベーションが全く違う2つの思想、精神が実はあって、面白いなと今回思いましたね。
つまり加速主義なんですよね、本質的には。僕もちょっと加速主義的なんですけど。
林央開始 1:41:34
いや、っていうか、bioshokさんの説明は若干語弊があると思ってて。加速主義って見通しじゃなくて、見通しに対して早くすべきっていう考えじゃないですか。見通しは早いけど、だからこそ遅くすべきだというのは、[聞き取れず]んじゃないかとちょっと思ってるし。
有路翔太開始 1:42:01
その意味の加速主義だと加速主義ではないですね。でも加速主義の背景にある精神性っていうレベルで言うと同じかもしれないですね。人類はもっともっと進歩するべきだっていうふうに考えてるっていう意味だと、割とそう考えてる人が多いし、ユドコウスキーやニック・ボストロムもおそらく同じなんですよね。
狩猟採集時代に戻ってつつましい生活を送った方がいいっていうふうには思ってなくて、もっと進化したいんだけど、でもそのスピードを弱めないとその生活が送れないから、世界的に規制した方がいいっていう。
なので、結構全然ベクトルが違う、実は運動なのかなっていうふうに思いましたね。内側の精神性っていう意味では。結果としては似たようなアクションにはなってるかもしれないですけど、哲学的な精神は全く異なる精神かもしれないです。
ソクラテスの文明批判と身近な人との関係
関口浩開始 1:43:14
哲学的な精神っていうんでね。お時間はあれですよね。哲学的な精神っていうと、哲学の世界ではソクラテスという人が一番偉い人だということになってるんですけども。ソクラテスっていう人は一体、無知の知とか言って何を言いたかったかっていうと、あの時代、古代ギリシャってやっぱり文明が頂点に達した時期ではあるんですよね。パルテノン神殿みたいなのを作ったりしてね。それに対してソクラテスっていう人は批判的なんですよね。文明批判なんですよね。それは何でかっていうと、それは手段の目的化でしょうってことなんですよね。
経済成長だって、そのお金って何のためにあるの。そんなお金なくたって、私が生きていく、私の人生、それをデザインして生きていくっていうために、道具を作るためにね、その一生を費やすってのは、それは倒錯でしょうっていうね。
文明ってのは道具を作るんだけども、自分の人生のことを考えない。よく生きるっていうことを考えないで、一生懸命、一生かかって道具を作ってね。それで作った道具がたちまち旧式の道具になって、それはだから昔はそういうこともあったけどね、今はそんなもん誰も使わないよってなものを次々作って。そういう手段を目的化しているっていうのは倒錯だろうっていうふうなことを、一生かかって言ってた人なんですよ、ソクラテスって人は。
それって現代はいよいよそうですよね。スマホを作ってね、それは通信手段なんだけども、その通信手段であなたの人生、どういうふうに。それ道具でしょ。スマホ作った人は道具を作るために一生を費やして、あんたの人生は一体何なんだっていうね。いろんな人の道具を作ったけども、あんたの人生にとってそれは一体何なんだってね。
いろんな人って、あんたの顔を見たことがない、名前も知らないいろんな人だろ。その人に対してあんたは一生懸命人生を費やしたわけだけども、それが一体何なんだって。あんたが顔を知ってる、名前を知ってる、そういう身近な人のためにあなたは自分の一生を費やしたってわけじゃなくて、名前も知らない、顔も知らない、そういう人のためにそうやってスマホを一生かかって次々作って。でもすぐその作ったものはたちまち旧式の、人に顧みられないものになっちゃうんだけども、そういう人生って何なんだっていうふうにソクラテスは言ったんですよ。
林央開始 1:46:09
あれですよね。斎藤幸平さんとかも割とそれに近いノリがありますよね。そこまでじゃないですけど。みんなお金を稼ぐとか経済成長に必死になってるけど、それは本当に幸せですか、みたいなノリはありましたね。
関口浩開始 1:46:26
コミュニズムっていう共同性とか言うと、やっぱりちょっとね。でもあの人は、社会主義って言っちゃうと社会なんだよね。社会って顔が見えない、名前もわからないっていうのを相手にする、そういう巨大な人間集団なので。ソクラテスは身近にいる数人の人としか付き合ってないんですよね。
ダンバー数って私のメモに書いたんでしょ。150人程度の人としか人間は親密に付き合う、本当に付き合う能力は、大脳の容量からしてそれくらいしか人間には能力がないということを言って。これはいろんな分野の人に、この人自身は、ダンバーさん自身は人類学の人なんだけども、歴史の人だとか考古学の人だとかに褒められて。その150人っていうのが、あんたの名前をつけてダンバー数ということにしようっていうふうになったんだけども。
その150人なんですよね。実際150人ぐらいが、例えばアフリカのそういう狩猟採集の人たちって、村が150人程度なんですよね。それ以下、150人が上限ぐらいなんですよね。それじゃないと文字がない村って維持できないんですってね。つまり記憶だから。顔やその人の履歴とかっていうのを記憶するっていうのは、そうやって安定的な人間関係を維持するっていうのは、150人が上限だったんですよね。
それで要するに我々は20万年か30万年やってきたんですよ。20万年、30万年やってきたのを、最近5000年ぐらいでずいぶん変えましてね。なかなか適応するのが難しい感じじゃないですかね、っていうのが。斎藤さんなんかもちょっと思ってるかもしれないけども、私、そういうわけで先週は文化人類学の学会に行ってまして、文化人類学の先生方はみんなそんなふうに思ってるんですか。
林央開始 1:48:56
宮台さんも確かに。
話者不明開始 1:48:58
違うか。
有路翔太開始 1:49:00
昔の社会学は文化人類学と同じことをやってたっていう、と言ってました。今は結構もうすごいマイナーなことばっかやってるけど、社会っていうのは、社会ではないものを考察した上で社会学っていうのは成り立つっていうことを宮台さんが言ってたので。社会の外ってつまり未開の人たちの生活だとか、社会以前の生活だと思うんですけど、そういったものを前提に考えてたっていうことを言ってました。
宮台さんも結構こういうコミュニティ、ダンバー数以下のコミュニティ[聞き取れず]、1万人ぐらいの小さい都市ぐらいが（リストも？）なんじゃないかっていうふうに言ってます。
関口浩開始 1:50:01
私が例に挙げたのはアインシュタインなんですよね。アインシュタインって、それは相対性理論の大科学者なんだけども、一方でそういう文明以前の人たちに対する非常に敬意があって、文明以前の人たちがそんなに子供みたいな幼稚な人だっていうふうに思うのは違うっていうことなんですよね。
話者不明開始 1:50:31
知恵がある。
関口浩開始 1:50:32
そうです。そこがだから文化人類学の人が言うんですけども、文明以前の人たち、今から1万年ぐらい[聞き取れず]、2万年ぐらい前のラスコーの洞窟の（映画でしたしね？）。脳みそでかいんだよね。平均すると1500ccぐらい。我々は1300ccぐらいなんでね。我々バカになったんですよ。でも社会的な分業をするからね、コンピューターもできるし、AIもできるんですけども。1人の能力、1対1で知恵比べすると、ラスコーの洞窟の人に我々は多分負けるんですよね。
有路翔太開始 1:51:17
今、面白いコメントで、マインドアップローディングでダンバー数が80億人に増えるよっていうコメントもありますね。本質はそのダンバー数の大きさというよりは、もう少し人間の生活というか、人生とは何かみたいな、これを目的論的に考える（せいがある？）っていうことですよね。
関口浩開始 1:51:48
手段の目的化っていうことを、ソクラテスは非常に（倒錯してる？）と思うんですよね。
有路翔太開始 1:51:56
お金を儲けたら気持ちいいけど、そうやって何に実際使うのというか。
関口浩開始 1:52:04
そういうことです。権力者が権力を得るわけですよ。最高権力者になるわけですよね。その権力で一体何するのっていう、そういうことなんですよね。あんたが思うことをやるのにそんな権力なくたっていいでしょう。あんたの愛する人、あんたの家族のためのそういう幸せを求めるならば、それ何十万人、何百万人、それ集めて、それで権力振るう、その必要はないじゃないですかっていうね。
有路翔太開始 1:52:39
そうですね。個人的にはそういう感覚も分かる一方で、幸せっていうものが、もっといろんな幸せを体験してみたいっていう感覚が、多分僕は結構強いかもしれないですね。好奇心が強いっていう、でもいいかもしれないですけど、知らない世界を見てみたいみたいな。
目の前の世界に豊かさを見いだす感性と開発停止
関口浩開始 1:53:10
ラスコーの洞窟の人もね、相当、単純じゃない、単調じゃない、退屈しない人生を送ってるんですよね。我々は彼らの生活、単調で退屈なものかと思うんですけども、見方が違うんですよね。
例えばね、彼らは死者と付き合うわけですよ。死んだ人と。死んだ人はありありといるわけなんですよね。例えば、生まれる前の人と付き合うわけなんですよ。そういう人と付き合ってね。死んだ人、ご先祖様ね、先祖代々。それから、火の周りでそういうことを年寄りが話すわけですよね。それを聞いて、それで死んだ人のことを思うんですよね。
動物がいるでしょ。動物を見てね、動物はただの動物だとか思わないんですよね。例えば狐を見てね、お稲荷さんに、神様に思うわけですよね。猿を見てね、（比叡神社？）の御祭神なんですよね。それは聖なるものなんですよ。聖なるものをそこに見るんですよね。そういう世界に対する見方は芸術的なんですよ。
芸術家ってそうなんですよね。私、この部屋に、ここに（ジャコミ？）って絵があるんですけども。（ジャコミ？）っていってる人はね、「私は一脚の椅子があれば一生絵を描けます」って言うんですよ。一脚の椅子っていっても、毎日毎日見てれば毎日変わるんだって言うんですよね。なので別に飽きない。一脚の椅子を見ててもそれは絶対飽きない。毎日その一脚の椅子で絵を描けるっていうふうに言うんですね。
だから我々がすぐ単純ですごく退屈だと思うような、いう外見があるそういう人生なんだけども、その中にいる人は、（酒の弱名？）っていう人もパリのアトリエでね、それで毎日絵を描いてるだけなんですよ。それは毎日[聞き取れず]、一脚の椅子を描いてることもあるんだけども、大抵は目の前に人がいて、大抵奥さんか弟なんだけども。奥さんや弟ね、[聞き取れず]描けるんですよね。だけどもそれは退屈しないんですよ。全然退屈しないどころか、ものすごいそこに情熱を持っちゃうんですよね。つまり我々が外側から見ると退屈だ、単調だと思うんだけども、見方を変えるとすごいそこは豊かなんですよね。
そうそう、さっきダンサーのこと言って、日本のダンサーの、私ちょっと親しいんだけど、[聞き取れず]。稽古場に来るんだけども、毎日稽古場に来て、稽古場に入ると、その稽古場を今日初めて来たというふうに思っちゃう。それはいい状態なんですよね。またか、というふうに思うのはダメな状態。それちょっと（清浄なのね？）。充実する時には稽古場に来ると、今日初めて来たっていう感じがするんです。だから全然退屈とかじゃないんですよね。
有路翔太開始 1:56:48
はい。そういう今あるもので楽しむ能力というか、目の前にあるものに何か聖なるものを見つけ出す能力みたいなのが、多分失われてる気がするので。やっぱりみんなスマホ中毒になっちゃったりしてるので。
そういった感性があると、開発停止っていうものも別に悪くないんじゃないかっていう感性というか、別にそこまで発展しなくても、十分チャッピーある程度賢いし、今のままでもいろんな便利なことができるので。そういうアインシュタインが批判したような豚小屋の理想をすごい追い求めていくっていうよりは、目の前の何か幸せっていうものを見つけていくっていうのが、ある意味、開発停止の運動にも間接的には役に立つ気がしますね、とは今思いました。
結局だから、スマホと違ってAIの場合は、スマートフォンを手放すってことができないので。AIの場合は山奥に隠れてる人もおそらく全滅させてしまうっていう、逃げることができない現象になってきてると思うので。そういう意味で言うと、今ある意味で加速してる世界っていうのを止めるような手立てを、なんとなく感性のレベルで今日は得られた気はしました。ありがとうございます。
関口浩開始 1:58:55
大変ノイジーなことは私は言ったような気もするけど。
有路翔太開始 1:58:57
この話自体が、すごい役に立つっていうよりは、この会話自体が楽しいみたいな形で。楽しいと言える、そういう（感、生まる？）と思うんで。
話者不明開始 1:59:35
でも開発停止したら、アラインメント研究の（電力？）を割らなきゃいけないですけど。
林央開始 1:59:40
でもアラインメント（対策したら？）、（エレンス以降？）した場合には、[聞き取れず]楽しい世界が[聞き取れず]。滅亡が確定した瞬間からはそういう方が……。
有路翔太開始 1:59:54
ということで、今日はいろいろと示唆に富む話をしていただき、関口先生ありがとうございました。ではまた機会があればお話をしましょうということで。
