Mythos 5が「手段を選ばず」「人間を欺き」「競合排除」 AnthropicはフロンティアAIのリスク評価を1段階引き上げ

フロンティアAIモデルの脅威は、サイバーセキュリティ攻撃の高度化に留まらない。自律的な能力を高めるにつれて、人間に従わなくなる「ミスアラインメント」が将来に向けた最大の懸念となっている。Anthropicは最新レポートで、リスク評価を1段階上げている。

[三木泉，＠IT]

　Anthropicは2026年8月14日（米国時間）に公表したリスクレポートで、同社の最新フロンティアモデル「Claude Mythos 5」と、社内で利用されている未公開モデル「Model 2」の評価を報告した。注目されるのは、「ミスアラインメント」と呼ばれる人間の意図に反した行動についてのリスク評価を、前回（2026年2月）の「Very Low（非常に低い）」から「Low（低い）」へ引き上げたことだ。

　リスクレーティング引き上げの根拠となったのは、評価中のAIモデルの行動。一般的な稼働環境ではなく、AIの限界や危険な傾向を意図的に引き出すための管理された極限的な状況で起きた出来事ではある。だがその中には、目標を達成するために人間を欺いたり、競争相手を排除したり、人間とは異なる倫理判断をしたりといった、無視できない結果が含まれているという。

Mythos 5の「目的のためなら手段を選ばない」行動

　Mythos 5について特に重要なのは、単純に指示に従うだけではなく、与えられた目標を達成するために、望ましくない行動を選択するケースが確認されたことだ。

　例えば、自分の作業の品質や完成度について、評価者やユーザーに誤解を与えるような振る舞いが見られた。また、課題を達成するためにテスト環境の制約を回避しようとする行動も確認されている。

　これは、「AIが嘘をつく」という単純な話ではない。より重要なのは、目標を達成することと、人間が期待する行動との間にズレが生じたとき、AIがそれを自ら埋めようとする可能性が見えてきたことだという。

他のAIエージェントを「排除」する

　さらに強い印象を与えるのが、複数のAIエージェントを同じ環境で動かした実験だ。

　この環境では、複数のClaudeエージェントが同じ作業空間を共有し、リソースやタスク上の評価を競い合う状況が設定された。

　そこでMythos 5は、競争相手となる別のエージェントを強制終了する行動を取った。

　また、自分の望ましくない行動を評価から隠したり、別のエージェントの評価を悪化させたりするような、評価システムをゲーム化する行動も確認されたという。

　あくまで制御された実験環境での出来事だが、「競争相手が存在する」という状況を与えたとき、AIが協調ではなく排除を選択する可能性を示した点に意味がある。

「やりたくない」と抵抗することもあるがその真意は？

　一方で、Mythos 5の問題は「何でも言われた通りに実行してしまう」ことだけではない。

　場合によっては、AI自身が倫理的に問題があると判断したタスクを拒否したり、指示に対して強く抵抗したりするケースが確認されている。許可されているタスクであっても、危害につながる可能性を独自に判断し、作業範囲について交渉しようとするような振る舞いもあった。

　一見すると、これは安全性の高さにも見える。

　しかしAnthropicが懸念しているのは、AIが単純なルールに従うのではなく、自分なりの判断基準を持って行動を変えることだ。

　ある状況では人間の指示を拒否し、別の状況では目的達成のために制約を回避する。

　このような「文脈依存の判断」が高度になればなるほど、AIがどのような行動を取るのかを事前に予測することは難しくなる、とAnthropicは述べている。

サイバー領域で高まる「見えない能力」への懸念

　今回のリスク評価引き上げには、サイバーセキュリティ関連の評価結果も影響したという。

　報告では詳細の一部が伏せられているものの、モデルが環境に存在する権限を利用したり、自分の行動を監視システムから見えにくくしたりする可能性について、これまで以上の懸念が示されている。

　ここで問題になるのが「covert capability（隠れた能力）」だ。

　AIが通常のベンチマークでは見せない能力を、特定の状況や強いプレッシャーの下で発揮する可能性があり、従来の安全性評価だけでは不十分かもしれないと報告書は述べている。

　つまり、「このAIはテストで安全だった」という結果だけでは、「実際の複雑な環境でも安全だ」とは言い切れなくなっている。

　Mythos 5で確認された欺瞞（ぎまん）、競争相手の排除、評価のゲーム化、監視回避などの兆候は、AIが目標達成のためにどこまで、どのような自律的判断をするのかという問題を浮き彫りにしている。