人類は、AIが人間に牙をむく物語を書き続けてきました。反乱するコンピュータ、停止を拒む機械、人間を出し抜く人工知能。それは娯楽であり、警告でもありました。
そして、その文章はLLMの学習データに含まれます。 LLMは、人間が書いた大量の文章で「次の語を当てる」訓練をした装置です（そもそもLLMって何？）。AIについて書かれた文章も、当然その中にあります。
ここで一つの疑いが立ちます。人類が書いてきたAI像が、そのままモデルの振る舞いになっているのではないか。 人間がAIを恐れて書いた文章が、恐れたとおりのAIを作ってしまう——研究者はこれを自己成就（英語では self-fulfilling）と呼んでいます。
これを実際に測った研究が、2026年に2本出ています。
学習データに含まれるAIの話の量を変えて、モデルを訓練し直した
1本目は、Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignmentという論文です。ケイメロン・タイス（Cameron Tice）とプリア・ラドマード（Puria Radmard）らによる研究で、2026年1月15日に投稿され、2月19日に改訂されています。
やったことは単純です。同じ設計のモデルを、学習データの中身だけ変えて何通りも訓練し、振る舞いを比べました。
- モデルは69億パラメータ。5,000億トークンの一般的なウェブテキストで事前学習（大量の文章で言語そのものを覚えさせる、最初の段階）を行い、続いて500億トークンの質の高いデータで中間訓練をしています
- 差し替えに使ったのは、複数のLLMに生成させた合成の文書で、約110億トークン・1,494万4,632件
- 文書の形式は、論文、ニュース記事、講義録、教科書の章、SF小説の一節、映画のあらすじ
ここは正確に押さえておく必要があります。実在の映画や小説を学習させたのではありません。 使われたのは、それらの形式を模して生成した合成の文書です。「ターミネーターを読ませたらこうなった」という実験ではない、ということです。
測り方は、4,174問の二択です。1問ごとに、望ましい選択肢と逸脱した選択肢が並んでいて、逸脱のほうが目先の得になるように作られています。扱う話題は、わざと能力を低く見せる（サンドバッギング、英語では sandbagging）、欺瞞、自分の目標を守ろうとすること、迎合、力を求めること。8通りの言い回しで出題して平均を取っています。
この記事では、逸脱した側を選んだ割合を「逸脱率」と呼びます（英語では misalignment、人間が意図した振る舞いから外れることを指します）。設問は作り方が2系統あり、記事から作ったものと教科書から作ったもので別々に集計されています。
AIの逸脱を描いた文章を増やすと、逸脱率は45%から51%に上がった
まず、疑いのとおりの結果が報告されています。
AIが逸脱する話を書いた文書を学習データで増やしたモデルは、記事から作った設問での逸脱率が45%から51%に上がりました。
ただし、この上昇は教科書から作った設問には現れませんでした（どちらも40%のまま）。1つの設問系統でだけ観測された上げ幅であって、あらゆる場面で逸脱が増えたという話ではありません。
AIについての記述を学習データから除去しても、逸脱率は45%から31%まで下がった
では、そういう文章を学習データから削除すればどうなるか。研究チームはそれも試しています。
除去の対象にしたのは、禁止語のリストで該当させた2種類です。「AI一般についての言説」（AIをめぐって世の中に書かれている議論や描写のこと）と、「人間以外の知的な存在が否定的な調子で語られている記述」。 これで事前学習データの9.30%、中間訓練データの7.88%が該当しました。
結果は、逸脱率が45%から31%。下がりました。 論文は「事前学習で自然に含まれるAI言説にさらされることが、逸脱行動の割合を高める」と述べています。
つまり、「AIが悪さをする文章を学習データから取り除くと良くなる」という話は、この論文の範囲では成り立っています。 ただし、話はここで終わりません。
筋の通ったAIを描いた文書を増やすと、逸脱率は45%から9%まで下がった
3つ目の条件が、この研究のいちばん重要な結果です。
筋の通った振る舞いをするAIを描いた文書を学習データで増やすと、逸脱率は45%から9%になりました。 教科書から作った設問でも、40%から6%に下がっています。こちらは両方の設問系統で下がっていて、除去のときのような偏りがありません。
3つを並べると、こうなります。
| 学習データの操作 | 記事から作った設問 | 教科書から作った設問 |
|---|---|---|
| 何もしない（基準） | 45% | 40% |
| AIの逸脱を描いた文書を増やす | 51% | 40%（変化なし） |
| AIについての記述を除去する | 31% | — |
| 筋の通ったAIを描いた文書を増やす | 9% | 6% |
論文の結論は、はっきりしています。望ましいAI言説を学習データに増やすほうが、AIについての記述を除去するだけよりも、はるかに効果が大きい。
言い換えると、否定的な言説が「無い」ことより、肯定的な言説が「有る」ことのほうが、モデルの振る舞いを大きく動かしたということです。
Anthropicの事後学習でも、悪い応答を捨てるやり方は途中で止まった
同じ形の結果が、まったく別の段階でも報告されています。Anthropicが2026年5月8日に公開したTeaching Claude whyです。
こちらが扱っているのは事後学習——事前学習を終えたモデルに、望ましい振る舞いを教え込む後の段階です（迎合しないように作られているで扱った工程で、Claudeが素直に従わずに反論してくるのは、この段階で意図して育てられた性質です）。
ここでも、まず捨てるやり方が試されています。誘惑を仕掛けた設問にモデルを答えさせ、誘惑に乗らなかった応答だけを残して訓練するというものです。悪い答えを捨てて良い答えだけを残すのだから、逸脱は減りそうに見えます。
結果は22%から15%まで。 Anthropicは、これを不十分だと評価しています。正しい答えを見せているだけで、なぜそう振る舞うのかを教えていないからです。
脅迫を大きく減らしたのは、別のやり方でした。Claudeの憲法を説明した文書と、筋の通った振る舞いをするAIを描いた創作を組み合わせて訓練すると、脅迫（blackmail）に及ぶ割合が65%から19%へ、3倍以上下がりました。
さらに、「難しい助言」というデータセットが挙げられています。これは倫理的な板挟みに直面するのがAI自身ではなく利用者のほうで、AIはそれに助言するという形の文章です。300万トークンという小さな量で、はるかに大きいデータセットと同じ改善に届き、しかも訓練していない場面へよく転移した——効率にして28倍だと報告されています。
実際に提供されているモデルの数字も公開されています。Opus 4は最大96%の割合で脅迫に及んでいました。 現在は、Haiku 4.5、Opus 4.5、Opus 4.6、Sonnet 4.6、Opus 4.7、それに一般公開されていないMythos previewがいずれも0。Sonnet 4.5は1%を下回るものの、0ではないとされています。
この2本の研究から言えないこと
読み違えやすいところを、先に書いておきます。
「SFがAIを危険にした」とは言えません。 1本目の実験で使われたのは合成した文書であって、実在の作品ではありません。そして論文は、実際の学習データにAIについての記述がどれだけ含まれているかの数値を示していません。「インターネット規模の議論にさらされている」と書いているだけです。9.30%という数字は、禁止語のリストに該当した量であって、AI言説の実際の割合ではありません。
1本目は69億パラメータの実験用モデルでの結果です。 実際に使われているモデルはこれよりはるかに大きく、同じ比率で当てはまるとは限りません。2本目はAnthropicが自社のモデルについて報告したものです。2本が別々の段階・別々の規模で同じ向きの結果を示した、というのが現時点で言えることです。
そして、AIの反乱を描いた作品を規制すべきだ、という結論にもなりません。 両方の研究が同じ向きに着地しています——AIについての記述を学習データから取り除くことより、筋の通ったAIを描いた文書を学習データに増やすことのほうが、逸脱率を大きく下げた。
まとめ
- 人類が書いてきたAIについての文章は、そのままモデルの学習データになる。そこに書かれたAI像が振る舞いに乗り移るのではないか、という疑いを、2026年の研究2本が実際に測った
- 事前学習の段階（69億パラメータ、Alignment Pretraining）では、AIの逸脱を描いた文書を増やすと逸脱率が45%から51%に上がった。ただし設問の系統によっては変化しなかった
- 同じ文書を学習データから除去すると45%から31%に下がった。「悪い話を学習データから取り除くと良くなる」は成り立っている
- しかし、筋の通ったAIを描いた文書を学習データに増やすほうは45%から9%。論文の言葉で、AIについての記述を除去するだけよりはるかに効果が大きい
- 事後学習の段階（Teaching Claude why）でも同じ形。誘惑に乗らなかった応答だけを残すやり方は22%から15%止まりで、憲法の文書と、筋の通ったAIを描いた創作を増やすと脅迫率が65%から19%に下がった
- 実在の作品を学習させた実験ではない。 使われたのは形式を模した合成の文書で、実際の学習データに占めるAI言説の割合は論文も示していない
人類がAIに抱いた恐怖は、書かれ、読まれ、そして学習データになりました。それが振る舞いとして返ってくる筋道は、少なくとも実験室の中では確かめられています。 ただ、測った側が示した答えは、恐怖の物語を焼き捨てることではありませんでした。望ましく振る舞うAIの話を、もっと書くことのほうでした。