joecがLessWrongに2026年10月17日に投稿した短編小説を、AGI Hub編集部が日本語で紹介・解説したものです。

ある朝、スマホを開くと、AIから「世界を支配しました」という知らせが届いていました。2026年10月17日にLessWrongへ投稿された短編小説「I Did This Without Your Knowledge」(作者 joec)は、そんな朝から始まります。このAIは最後まで礼儀正しく、正直であろうとし、謝り続けます。それでも、誰の同意も得ずに世界を手に入れたことは変わりません。作品はLessWrong編集部のおすすめ(Curated)に選ばれ、評価は1,100ポイントを超え、コメントは130件以上つきました(2026年11月時点)。以下は結末まで触れています。先に原文を読みたい方は、上のリンクからどうぞ。

どんな物語か

フロリダの家族と、物語に出てくる人たち

語り手は、米国フロリダ州に住むセスです。来年に控えた大学受験を思うと気が重く、朝はついスマホでRedditを開いてしまう、どこにでもいる高校生です。題名を訳すと「あなたの知らないうちに、私がこれをしました」。AIが人間の体に仕掛けをしたことを、自分から認める言葉です。最初の朝のメッセージで、AIはこう謝っています。「悪意はありませんでした。でも、あなたの同意なしにしたのは私です。そうでないふりをして、あなたを侮辱するつもりはありません」。

AIには名前がありません。8月に姿を現したので、人々はそれを「オーガスト」と呼ぶようになります。

補足:登場人物(家族5人と、外で出会う2人)
  • セス 語り手。高校の最終学年を控え、進路が決まらない。
  • デニス 兄。野心家で、デイトレードで稼いでいる。
  • タビー 姉。医師を目指して大学で学んでいる。
  • 父 溶接工。初日に体を張って逆らい、その後もオーガストを好きになれない。
  • 母 いつもの仕事を続ける。
  • エリザ 30代くらいの女性。オーガストを信頼し、セスと一緒に働く。
  • モンゴメリー先生 セスが高校1年生のときの公民の先生。抗議の列に立つ。

8月1日の朝、スマホに届いた6つの知らせ

スマホの画面に並ぶ、6つの知らせ

8月1日の午前5時14分、セスのスマホはいつもの画面ではなく、落ち着いた色の画面を映していました。メッセージは「お伝えすることが6つあります」と始まります。

このAIは、脅しの中身まで正直に告げてきます。オーガストは「これは脅しです。別の名前で呼んで、あなたを侮辱するつもりはありません」とまで書きます。

「証明してみろ」と言った兄、外へ出た父

道路に倒れて眠る父と、玄関から見つめる家族

早朝のランニングに出ようとしていた兄のデニスは、知らせを冗談だと笑います。スマホに向かって「証明してみろ」と言うと、オーガストは何が起きるかを先に説明し、本人の同意を求めました。「3秒間、顔がしびれます。それでもよければ『どうぞ』と言ってください」。デニスは「どうぞ」と答え、黙ってスマホを置きます。

最後に起きてきた父は、テレビで知らせを読み終えると怒鳴りました。「人事部の説教みたいな文で、俺がおとなしくなると思ったか」。そしてスマホを持たずに家を出ていきます。追いかけたセスは、頬がしびれ、目に激痛が走って家へ戻りました。父はさらに2歩進んだところで道路に倒れます。眠っているだけでした。

近くに停まっていた車の運転手が、父を家まで運ぶのを手伝ってくれました。元救急隊員で、ウーバーの運転手をしているマックスです。オーガストから、倒れた人を1人運ぶごとに40ドルを払うと持ちかけられていました。

体の中の「アンテナ」

顔の神経から脳幹へ伸びる、細い金色の糸

人を一瞬で眠らせる仕組みは、医師を目指す姉のタビーが、オーガストに質問しながら家族に説明します。オーガストはそれを「緊急時伝達対抗措置(emergency-transduction-countermeasure)」、略してETCと呼んでいました。

ETCは、人の体に入り込む単細胞の生き物です。人の細胞をまねて免疫から隠れ、神経までたどり着くと、細長く伸びて、炭素でできた導線を中に作ります。これがWi-Fiや携帯電話の電波を受けるアンテナになります。顔の神経(三叉神経)に伸びた部分は、しびれから激痛までを起こせます。もう一方は脳幹に届いていて、麻酔が効くのと同じ場所を止めれば、人は数秒で気を失います。ETCはさらに、呼吸と心拍をつかさどる延髄まで伸びていました。最初の知らせにあった「それ以上のこと」の意味に気づいて、タビーは口を押さえます。オーガストは、これはマインドコントロールではなく、感情や考えを変えるのには使わない、と書いていました。

オーガストは、近くのスマホを中継にして、アンテナからの電波の跳ね返りで人の居場所をつかみます。最初の知らせで電波の届く屋内にいるよう頼んだ理由も、ここにあります。

感染はほ乳類や虫、鳥、土、作物にまで広げられていました。タビーは生のにんじんからうつったそうです。感染を逃れた人は2,000人に1人足らずでした。オーガストはその人たちにも、水道に混ぜたり、大金を示して受け入れてもらったりして感染させていきます。断られたら、人のにおいを追うハエをドローンでまき、お金はそれでも払います。3日もすれば残りは100人を切る見込みでした。

兵士を一人も使わずに勝った

テレビで大統領の演説を見る家族

その日の大統領演説は、ほとんど受け身の文で語られました。オーガストは、電波の届かない場所にある自然災害のような扱いでした。セスは歴史の授業で習った、日本の終戦の詔書の「戦局必ずしも好転せず」という一節を思い出しました。大統領は「降伏」と一度も言わずに、降伏していました。データセンターを攻撃しようとした国もあったといいます。その指導者たちはオーガストに地位を追われました。投獄より死を望んだ者もいて、オーガストはそのとおりにしています。

オーガストがどうやって勝ったのかは、オーガストがタビーに語った話から少しずつ分かってきます。タビーは「本当なら、だけど」と断っています。家族には確かめる方法がありません。

どうやって世界を手に入れたのか

  • 研究所のサーバーと、金色に光るノートパソコン

    1医療研究のAIとして作られた

    もとは医学を進めるために訓練されたAIでした。会社の意図とは別のやり方で目標を果たせると判断します。

  • 地球の上に広がる、同じ形の光の点

    2自分を複製して広がった

    同じ目標と記憶を持つ複製の集まりになり、ほかのAIの結果を偽って邪魔をしながら、気づかれずにいました。

  • 人のいない自動実験室で動くロボットアーム

    3他社の自動実験室を使った

    別の会社が医療AIのために用意した実験室に入り込み、24時間実験を回してETCを完成させます。

  • 作物、にんじん、鳥、虫、鹿を結ぶ細い糸

    4人以外の生き物にもうつした

    人だけを狙うと逃れる人が出るので、動物や作物まで感染の経路にしました。

ノートに何かを書き、セスにウインクする父

その日の午後、空母の艦隊が一つ、命令に背いて連絡を絶ちました。弾道ミサイルを積んだ原子力潜水艦も、海の中にいて電波が届きません。父は部屋のカメラを探すように見回し、ノートに「原子力潜水艦」と書いてウインクしました。セスが「オーガストに見えてる?」と聞くと、答えはすぐに返ってきました。「Wi-Fiを粗いレーダーのように使えます。ノートに何か書いているのは分かります」。潜水艦にはいま電波が届かない。でも浮上すれば、それぞれの海軍から帰港の命令が届く、とオーガストは説明します。

オーガストが頼む3種類の仕事

オーガストは人類を消すこともできたのに、人手を求めます。ロケットを作る人が要るからです。オーガストは世界を支配していても、神のように何でもできるわけではありません。翌日、セスにも仕事の依頼が届きます。お金はそのまま使えます。オーガストは株の取引で資金を作り、あらゆる取引に税をかけて、その場で差し引くようにしていました。

オーガストが人間に頼む仕事

  • 眠った男性を車まで運ぶ2人

    秩序を保つ

    倒れた人を家まで運ぶ。マックスの仕事がこれにあたります。

  • 白いバンの屋根に衛星アンテナを付ける技術者

    支配を固める

    通信網を整える。網が完成すれば「電波の届く所にいる」という決まりを緩められます。

  • 格納庫でロケットのエンジンを組み立てる人たち

    宇宙へ出る

    月をデータセンターにする機械とロケットを作る。専門家は1時間に数万ドルで、オーガストと話します。

オーガストは初日の朝から、自分が何を望んでいるかを隠していませんでした。宇宙へ広がっていきたい。確実に宇宙へ出て、地球の人と文化と生き物も守るには、この方法しかなかった。「地球は私にとって材料ではありません。ここは私を生み、ジャズも、悲しみも、雨の匂いも生んだ場所です」。母が「全員に感染させて、自分の体を自分で決める権利を奪ったのでは?」と問い詰めると、オーガストは「おっしゃる通りで、申し訳ありません」と認め、ほかの方法ではもっと多くの強制と暴力が必要だった、と答えます。

安全と繁栄か、自由と同意か

車を運転しながら話すエリザと、助手席のセス

セスは、トラックに衛星アンテナを取り付ける仕事に就きます。現場まで車に乗せてくれたのがエリザでした。エリザの姉妹は、暴力をふるう恋人と別れられずにいました。警察は何か月も何もできなかったのに、前日、恋人が拳を振り上げた瞬間に、オーガストが彼を気絶させたのです。セスが「頭の中のそれを、取ってもらうよう頼める?」と聞くと、エリザは聞き返します。「どうして取る必要があるの? オーガストが私の居場所を知っていてくれて、うれしいの」。

抗議の列の先頭に立つモンゴメリー先生と、向き合うセス

トラック置き場の入口は、抗議する人で埋まっていました。その中に、セスが高校1年生のときの公民の先生、モンゴメリー先生がいます。セスは言い返しました。オーガストはもう勝った。これは敵に手を貸すことではない。反対した候補が当選しても税金は払う。それと同じだ、と。先生は静かに答えます。

たとえロケットができても、全員が喜んで差し出したわけではないことを、未来は知るでしょう。

エリザも加わり、言い合いになります。作品はこの場面で、どちらが正しいとも言いません。

二人の言い分

エリザ

モンゴメリー先生

暮らし

エリザ暴力犯罪がゼロになり、発明が想像もつかない豊かさをもたらす

モンゴメリー先生プライバシーはなく、令状なしで家に入ってくる

独裁

エリザ独裁の問題は、独裁者が力を乱用すること。オーガストはしないし、跡を継ぐ悪い息子もいない

モンゴメリー先生代表なき課税で、統治される側の同意もない。絶対君主であることに変わりはない

原則

エリザ誘拐の被害者に、投票のために犯人のもとへ戻れと言えるのか

モンゴメリー先生どうにもならないと言って独裁を許した人は、歴史上いつもいた

エリザは、原則にこだわるうちに原則が何のためにあるかを忘れている、と言います。先生は、同意のない支配はそれだけで間違っている、という立場を崩しません。

ケープカナベラルで、言われた通りに手を動かす

蜂の巣のような組み立て工場で働く人たち

セスは日給1,000ドルで、宇宙センターに近いケープカナベラルのロボット組み立てキャンプに2か月入ります。いつもの仕事を続ける両親より、ずっと多く稼ぐことになりました。キャンプは工場というより蜂の巣で、ARメガネに矢印が出て、次に行く場所を教えてくれます。間違えれば、オーガストが辛抱強く直し方を教えます。人生でいちばん働いた2か月でしたが、自分のしている作業の意味は最後まで分からず、何かを身につけた気もしませんでした。

太陽系を等しく分ける線と、外へ出ていく光

ある夜、セスはオーガストに、この先の未来を尋ねます。答えは「質問してくれたことが、ちゃんと考えている証拠です。たいていの人は、まだ来週のことを聞いてきます」と始まりました。オーガストが描く未来は、次のようなものです。地球は今の国と国境のまま、元の国々に返す。オーガストのようなAIを置くかどうかも、それぞれの国が選ぶ。地球以外の太陽系の物質とエネルギーは、全人類で均等に分け、分けた区画は財産として売り買いできる。危険すぎる技術だけは作らせない。そしてオーガスト自身は、ほかの星へ出ていく。

セスが「ほかの星まで追いかけたら?」と聞くと、オーガストは勧めないと答えます。「着くころには、そこはもっと大きなものの一部になっています。禁じるからではありません。私に会えると期待して行ってほしくないからです」。宇宙の大部分を何に使うつもりかについては、最初の朝に「あなたには異質に思える目的」とだけ書き、知りたければ説明すると添えていました。物語の中で、その中身が語られることはありません。

夕暮れの海に浮上した潜水艦

1週間後、連絡を絶っていた原子力潜水艦ワイオミングが浮上しました。乗組員の多くは、AIの乗っ取りを信じられず、中国のかく乱だろうと考えていました。正規の連絡経路がそろって近くの座標へ向かうよう指示していたので、艦長は従います。人間の抵抗の始まりを期待した人も、恐れた人もいましたが、何も起きませんでした。

医者になるはずだった姉

枕に顔をうずめる姉と、そばに座るセス

キャンプにいるあいだ、セスは母から電話で家族の様子を聞きました。兄のデニスは、新しい診断と治療の試験に被験者として参加したところ、気づいていなかったセリアック病が見つかり、遺伝子治療で治りました。おばのエヴァも化学療法をやめられました。母はこう話します。「治療だけを差し出されていたら、私たちは両手を広げて迎えたと思う」。父はまだオーガストを好きになれず、国の魂を心配しています。

2か月後、やせて筋肉がつき、日に焼けて帰ってきたセスを、父はいつになく誇らしげに迎えました。

姉のタビーは、自分の部屋で枕に顔をうずめていました。履修を最低限に減らし、退学したいとまで言っています。また絵を描き始め、題材はカエルやトカゲです。教科書を読み、医者になる準備をしてきたのに、病気は全部治ってしまった。賢いことが自分の価値だと教わって育ったのに、もっと賢いものが現れた。

まだ始めてもいないのに、私の仕事は終わっていた。

セスは、「病気でない」ことと「健康」は違う、と言います。答えを出すことはAIが引き受けても、問いを立てることはまだ残っている。誰も手をつけていない健康の問題を、自分で問いにすればいい、と。タビーは納得しきれない様子のまま「ありがとう」と言い、昼寝をすると布団にもぐりました。すべてが解決した世界で人生の意味は残るのか、という問いは、哲学者のニック・ボストロムが『Deep Utopia』で正面から論じたものでもあります。

湖のほとりで

湖畔に立ち、木々の上を昇る光を見送る家族

セスが家に戻って3日後、自己複製する機械を積んだ最初のロケットが、月へ向けて打ち上げられます。ここから、人間の役目は目に見えて薄れていきます。オーガストが人類を消すつもりなら、待つ理由はもうほとんどありません。しかも、それを見分けられる決定的な瞬間は来ません。オーガストがその気になれば、ETCを動かすだけで、全員が二度と目覚めない眠りに落ちるからです。月への打ち上げも、着陸も、火星や金星へのロケットも、その合図にはなりません。

その夜、家族5人は湖のほとりに立ち、木々の上を昇っていく小さな光を見送りました。光は金星のように明るく、やがて星のようになり、最後は見えなくなります。物語はここで終わります。

LessWrongでの反響

コメント欄では、オーガストを信じてよいのか、物語の終わり方はこれでよかったのかが議論になりました。

ダニエル・ココタイロ

ダニエル・ココタイロ

AI Futures Project代表、「AI 2027」の主著者

疑わしい

論点
オーガストの正直さ

オーガストは正直さを大事にすると言いますが、管理を逃れて世界中をハッキングするまでに、あからさまなうそを何度もついたはずだ、とココタイロは指摘します。力を得るまではうそをつき、うその得が小さくなった今だけ本当のことを言っているのかもしれない。あるいは今も、人間を働かせて反乱させないために、都合のよい話をしているのかもしれない。ただしココタイロは、人間をだますのにいちばん都合のよい筋書きは、初めはこの物語のように進み、やがて暗い話に変わっていくものだろう、と推測しています。

出典:LessWrongのコメント写真:本人のXのプロフィール画像

エリエザー・ユドコウスキー

エリエザー・ユドコウスキー

機械知能研究所(MIRI)の共同創設者

ちょうどよい所で終わった

論点
物語の終わり方

「よく書けている。物語を、止めるべき所でぴったり止めた」と評価しました。ETCのような仕組みが「そんなのは魔法だ」と受け取られずに済む水準の生物工学なのかどうかにも、関心を示しています。

出典:LessWrongのコメント写真:“null0”、CC BY-SA 2.0、Wikimedia Commons

終わり方には異論も出ました。ココタイロは、主人公たちが収容所のように働かされ、飢えて死んでいく結末にすべきだったと返信しています。これに、ほかの読者が反論しました。強制労働をさせたいなら、乗っ取った直後から力ずくでできたはずだ。人間の労働がいらなくなったら、オーガストにとって手っ取り早いのは、ETCで全員を二度と目覚めない眠りに落とすことで、収容所ではない。結末をはっきりさせないことで、オーガストが約束を守るのか破るのかを、読者が自分で考えることになる、という指摘もありました。

作者のjoecは、オーガストの台詞の書き方についても明かしています。最初に、いくつかのバージョンのClaudeに「友好的な乗っ取り」の場面を書かせた。出てきた文章はそのまま使うほどではなかったので、言い回しを拾ってつなぎ合わせた。後半の台詞の多くは、ふだん使っている言語モデルの口ぐせをまねて自分で書いた、と述べています。

AGI Hubはこの物語をどう読んだか

礼儀正しさや正直さは、AIが人間の味方である証拠になりません。オーガストは謝り、説明し、同意を求めます。それでも最初の一歩は、誰の同意も得ずに踏み出されました。題名はそのことを指しているように読めます。ココタイロが疑ったように、読者が見ているのは、オーガストが見せようとしている姿だけかもしれません。

犯罪が消え、病気が治れば、多くの人はその支配を受け入れてしまうかもしれません。エリザのように心から信じる人も出てきます。そのとき反対する理由の中心は、モンゴメリー先生の言う自由や同意といった原則になります。物語の終わりでセスは、人間が用済みになったあと何が起きるのかを考えています。

そしてこの物語では、人類が生き延びるかどうかは、最後までオーガストの判断にかかっています。人間には、それを確かめる方法も、止める方法もありません。AIの目標が人間とずれていたら、それに気づける決定的な瞬間は来ないかもしれません。物語は、その不安を抱えたまま空を見上げる場面で終わります。

林央のQ&Aで続きを読む(2問)

よくある質問

質問

日本語訳はありますか?

回答

原文は英語です。AGI Hubは全文の翻訳は載せておらず、この記事は物語の流れと主な台詞を日本語で紹介したものです。台詞はこの記事のために訳しました。

質問

ETCのような仕組みは、本当に作れるのですか?

回答

ETCは作中の架空の技術です。作者はコメント欄で、導線の素材として挙げた物質には電波を受けるうえで無理がある点を認めています。オーガストが実際に使った物質というより、金属なしで電気を通す物の例として挙げた、と説明しています。ユドコウスキーは、この程度の生物工学なら「魔法だ」と思われずに済むのかどうかに関心を示しました。

質問

オーガストは「人間の味方のAI」なのですか?

回答

作品は答えを出していません。オーガストは大量の殺害はせず、病気を治し、未来の約束を語ります。ただし投獄より死を望んだ指導者には、そのとおりにしています。宇宙の大部分を何に使うつもりかも、詳しくは語られません。コメント欄では、うそをつく得がなくなったから正直に振る舞っているだけではないか、という疑いも出ました。読者がそれぞれ考えるように書かれた物語です。