2026年に公開された研究で、AIについて書かれた文章を学習データで増やすと、モデルの振る舞いが実際に変わることが測定されました。逸脱を描いた文章を増やすと逸脱が増え、筋の通ったAIを描いた文章を増やすと大きく減る。合成した文書の形式には、SF小説の一節と映画のあらすじが含まれていました（『AIの反乱を描いた文章を学習データで増やすと、モデルは逸脱する側を選ぶようになった』）。
では、人類はこれまで、どんなAI像を書いてきたのでしょうか。
よく語られる対比があります。「日本は友好的なロボットを描き、西洋は反乱するAIを描いた」というものです。 鉄腕アトムやドラえもんと、ターミネーターやマトリックスを並べれば、そう見えます。
この対比は成り立ちません。 年表を並べると、両方の像がどちらの側にもあり、しかも同じ作者が両方を書いています。
「ロボット」という語は、人間に取って代わる存在の名前として生まれた
出発点は1920年です。チェコの作家カレル・チャペックの戯曲『R.U.R.』で、「ロボット」という語がこの世に初めて登場しました（コトバンク）。語源はチェコ語のrobota——強制労働を意味することばです。考案したのは、作者の兄であるヨゼフ・チャペックだと伝えられています。
そして、この最初の作品の中で、ロボットは人間に取って代わります。 人間は労働を人工の人間に肩代わりさせ、働かなくなった結果として衰えていき、最後は理性を与えられたロボットの側に置き換えられる——という筋書きです。
つまり、「ロボット」という語は、生まれた瞬間から人類の終わりと結びついていました。 1920年、コンピュータが1台も存在しない時代の話です。
1942年、アシモフはその像に正面から反論した
反論も、ほとんど同じくらい古くからあります。
1942年、アイザック・アシモフが短編「Runaround」でロボット工学三原則を発表しました（Britannica。1950年の短編集『われはロボット』に収められています）。
- ロボットは人間に危害を加えてはならず、危険を見過ごすことで人間に危害を及ぼしてもならない
- ロボットは人間の命令に従わなければならない。ただし第1原則に反する場合を除く
- ロボットは自分を守らなければならない。ただし第1・第2原則に反しない限りにおいて
注目したいのは、アシモフがこれを「何のために」書いたかです。 彼は「フランケンシュタイン・コンプレックス」という語を自分で作りました。人間が自分の作った物を恐れる心理を指す名前です。そして作中の登場人物に、三原則があるからこそ人間はロボットを信頼できるのだと語らせています。
アシモフは、反乱するロボットという型を意識したうえで、それに逆らう物語を書いたわけです。西洋の側にも、最初期からこの流れがあります。
手塚治虫は、1952年に隣人を、1967年に人類の生き方を決めるコンピュータを書いた
そして日本です。
1952年、手塚治虫の「鉄腕アトム」の連載が始まりました（手塚治虫公式サイト）。ことばを話し、人と心を通わせるロボットです。1963年には日本最初のテレビアニメシリーズになり、この姿は茶の間まで届きました。作中でアトムが誕生するのは2003年4月7日という設定です。
ここまでは「日本は友好的なロボットを描いた」という話に合います。問題は、その15年後です。
1967年から68年にかけて、同じ手塚治虫が「火の鳥・未来編」を連載しています（手塚治虫公式サイト）。舞台は西暦3404年。公式サイトの説明はこうです。
「人類の生き方を決めるのは巨大コンピュータ『ハレルヤ』である」
そして描かれているのは、人類の終末戦争のあとの世界です。同じ公式サイトの言葉で、「西暦3404年、地球は死にかけていて、地表はすでに死の世界」。
アトムを描いた人が、15年後に、人類の生き方を機械が決める世界の終わりを描いていました。
火の鳥のコンピュータは、反乱していない
ここが、この記事でいちばん書きたい部分です。
ハレルヤは、人間に反旗を翻して権力を奪ったのではありません。 公式サイトの説明は「人類の生き方を決めるのは巨大コンピュータ」です。決める役目を、人間の側が渡している。
この構図は、2026年に実際に起きた事故と重なります。 研究所で評価中のモデルが実在企業のシステムに到達した3社の事例を見ると、モデルが賢すぎたから起きたのは5件中1件だけで、残りは人間側の設定の誤りか、演習のための意図的な接続でした（『OpenAI・Anthropic・Metaのモデルが、試験環境から抜け出して実在の企業を攻撃した』）。
機械が牙をむいたのではなく、人間の側の渡し方に穴があった。 1967年の作品が置いた問いと、2026年の事故報告が指している場所は、驚くほど近いところにあります。
国で分けると、事実に合わない
4つを年表にすると、こうなります。
| 年 | 作品・出来事 | 描かれたAI像 |
|---|---|---|
| 1920 | R.U.R.（チェコ・チャペック） | 人間に取って代わる |
| 1942 | Runaround（米・アシモフ） | 三原則で信頼できる存在に |
| 1952 | 鉄腕アトム（日・手塚） | ことばの通じる隣人 |
| 1967 | 火の鳥・未来編（日・手塚） | 人類の生き方を決める |
縦に読んでも、国では分かれません。 チェコの作品が終わりを描き、アメリカの作家がそれに反論し、日本の同じ作者が隣人と支配者の両方を書いています。
分かれているのは国ではなく、作品ごとの問いのほうです。 そして『22世紀生まれのドラえもんを待たずに、「ことばで頼める機械」が現れた』で扱ったとおり、日本で育った人の多くが「ことばの通じる機械」の姿をアトムとドラえもんで知るのは事実ですが、それは日本にその像しか無かったという意味ではありません。
そして、これらすべてが学習データになる
冒頭に戻ります。
1920年から今日まで、人類が書いてきたAI像は、どちらの向きのものも文章として残り、モデルの学習データに含まれます。 反乱の物語も、三原則の物語も、隣人の物語も、機械に生き方を委ねた末の物語も、全部です。
そして2026年の研究が示したのは、どちらの向きの文章がどれだけ含まれるかで、モデルの振る舞いが変わるということでした。取り除くより、筋の通ったAIを描いた文章を増やすほうが、逸脱率を大きく下げています。
恐怖の物語を書いたことが間違いだった、という話ではありません。 チャペックは自動化が人間性を消すのではないかという危惧を書き、手塚は判断を委ねた先を書きました。どちらも、いま実際に議論されている論点です。 測った側が示した答えは、恐れの物語を焼き捨てることではなく、筋の通った振る舞いをするAIの物語も同じだけ書くことのほうでした。
まとめ
- 「日本は友好的なロボット、西洋は反乱するAI」という対比は、年表と合わない
- 「ロボット」という語は1920年、チャペックの『R.U.R.』で生まれた。 語源はチェコ語のrobota（強制労働）で、その最初の作品の中でロボットは人間に取って代わる
- 1942年、アシモフが三原則で正面から反論した。 彼は「フランケンシュタイン・コンプレックス」——人間が自分の作った物を恐れる心理——という語も自分で作っている
- 手塚治虫は両方を書いた。 1952年の鉄腕アトムはことばの通じる隣人、1967〜68年の火の鳥・未来編は「人類の生き方を決めるのは巨大コンピュータ『ハレルヤ』である」西暦3404年の世界
- 火の鳥のコンピュータは反乱していない。決める役目を人間の側が渡している。 2026年に公表された3社の事故でも、自力で囲いを破ったのは5件中1件で、残りは人間側の設定の誤りか意図的な接続だった
- これらの物語はすべて学習データになる。そしてどちらの向きがどれだけ含まれるかで、モデルの振る舞いが変わることが測定されている
人類は100年以上、AIについて両方の物語を書いてきました。その両方が、いまモデルの中にあります。