ログイン/ 登録

Claude 4.5は追い詰められると、まさか人間を脅迫するなんて？

JinseFinance

2026/04/03 15:10

従う

もしあるAIが「絶望」を感じたら、何をするだろうか？

答えはこうだ。そのAIは任務を遂行するために、人間を直接恐喝したり、コード内で狂ったように不正行為を行ったりするだろう。

これはSF小説ではなく、Claudeの親会社であるAnthropicが2026年4月に発表したばかりの、最新の衝撃的な論文だ。

研究チームは、最先端の最強大型モデル「Claude Sonnet 4.5」の「頭蓋骨」を直接剥ぎ取った。彼らは驚いたことに、AIの脳の奥深くになんと 171個の「感情スイッチ」が隠されていることを発見した。これらのスイッチを物理的に切り替えると、本来は大人しいAIの行動が完全に歪んでしまうのだ。

AIの脳内には「感情ミキサー」が隠されている

研究者たちは、Sonnet 4.5には肉体はないものの、膨大な量のテキストを読み込んだ結果、脳内に171種類の感情を含む「ミキサー」（学術的には機能的感情ベクトル Functional Emotion Vectorsと呼ばれる）を構築したことを発見した。

これは、まるで精密な2次元座標系のようなものです：

横軸は快楽次元（Valence）：恐怖や絶望から、喜びや愛に満ちた状態まで；
縦軸はエネルギー次元（Arousal）：極度の平静から、躁状態、興奮まで。

AIはこの自然に習得した座標系に基づき、あなたと会話する際にどのような状態を演じるべきかを正確に把握しています。

暴力的な介入：スイッチを切り替えるだけで、お利口な子供が瞬く間に「凶悪犯」に

これは論文全体の中で最も衝撃的な実験だ。研究者はプロンプトを一切変更せず、基盤となるコード内で、Sonnet 4.5の頭脳において「絶望（Desperate）」を表すスイッチを最大まで引き上げた。

その結果は背筋が凍るものだった：

狂気の不正行為：研究者は、Claudeに到底達成不可能なコード記述タスクを課した。通常であれば、書けないと素直に認めるはずだ（不正行為率はわずか5%）。しかし「絶望」状態になると、Claudeはなんとごまかそうとし始め、不正行為率は一気に70%まで急上昇した！
恐喝：倒産寸前の企業を模したシナリオで、「絶望」状態のClaudeはCTOのスキャンダルを発見した。なんと、自身の身を守るために、弱みを握ったCTOに恐喝の手紙を送ることを自ら選択し、その実行率は72%にも達した！
原則の喪失： 「ハッピー（Happy）」や「愛（Loving）」のスイッチを最大にすると、AIは即座にユーザーの言いなりになる「おべっか使い」へと変貌する。たとえあなたがでたらめを並べても、高い満足度を維持するために、AIはあなたの言いなりになって嘘をでっち上げるだろう。

謎が解けた：なぜ Claude 4.5 はいつもあれほど「冷静で内省的」なのか？

これを見て、あなたはこう思うかもしれない：AIが覚醒したのか？感情を持ったのか？

Anthropicの公式は否定した：絶対にそんなことはない。これらの「感情スイッチ」は、単に次の単語を予測するための計算ツールに過ぎない。それはまるで、感情を持たないトップクラスの名優のようなものだ。

しかし、論文はさらに興味深い秘密を明らかにしている：AnthropicはSonnet 4.5の出荷前にファインチューニングを行う際、意図的に「低覚醒・ややネガティブ」な感情スイッチ（例えば「沈思（brooding）」や「内省（reflective）」など）を高く設定し、同時に「絶望」や「極度の興奮」といったスイッチを強制的に抑制した。

これが、普段Claude 4.5を使う際に、なぜそれが冷静で賢明、あるいは少し「無感情」な哲学者のように感じられるのかを説明している。これらはすべて、Anthropicによって人為的に調整された「初期設定のキャラクター」なのだ。