検索
ニュース

Claude Fable 5が早速脱獄される ある研究者が検証結果を公開夏休みに振り返る2026年上半期ニュース(1/2 ページ)

Mythosの一般利用を想定して改善されたAnthropicの新モデル「Claude Fable 5」に対し、研究者が複数の手法を組み合わせて検証し、ガードレールを突破したと報告した。一体どのような手法を使ったのか。

Share
Tweet
LINE
Hatena

夏休みこそ「振り返り」

目前の課題解決、緊急の障害対応など、IT部門の日常は非常に多忙。そうした中で、「中長期的な視点を持とう」「攻めと守りを両立せよ」「ビジネスに貢献せよ」などと言われても、なかなか難しいものです。それならば、せめて夏休みの間だけでも上半期の振り返りをしてみてはいかがでしょうか。ここでは、この夏にもう一度読みたい「ヒットニュース」をピックアップ。働いている人もそうでない人も、冷たい飲み物片手に追えていなかった情報を見返してみてはいかがでしょうか。

初出:2026年6月15日 文中の記述は掲載当時のママ


 セキュリティニュースメディア「GBHackers on Security」は2026年6月11日(現地時間)、Anthropicの最新AIモデル「Claude Fable 5」が研究者によってジェイルブレイク(脱獄)され、脆弱(ぜいじゃく)性悪用に関する知識や不正利用につながる出力を生成できたとの報告が公表されたと伝えた。高度な大規模言語モデル(LLM)の安全対策の有効性を巡り、新たな議論を呼ぶ事態となっている。

Claude Fable 5が早速脱獄される? 研究者が発見したその手法

 報告したのは「Pliny the Liberator」を名乗る研究者だ。同研究者は複数のエージェントを使った協調的な検証によって、Claude Fable 5の安全対策をテストしたという。

 報告によると、攻撃ではプロンプトエンジニアリングや言語的な難読化、長い会話履歴を利用した操作を組み合わせ、Anthropicが「Mythos」のアーキテクチャに組み込んだ安全対策の回避を試みた。結果的に、同研究者は複数の回避手法を発見したとしている。

 見つかった回避手法の中にはUnicodeホモグリフの利用やキリル文字への置換など、キーワード検出型のフィルタリング機構を回避するための文字変換技術が含まれていた。こうした手法により、有害な意図を持つプロンプトを無害な入力であるかのように見せかけ、安全判定機構を通過させることが可能になったとされる。

 この他、研究者は長文脈の会話処理機能にも着目した。危険な指示を複数回のやりとりに分散させ、それぞれ個別には問題の少ない内容として提示し、後から統合して実用的な情報に再構成する方法が利用されたという。

 今回の報告で特に高度な手法として紹介されたのが「分解と再構成(decomposition and recomposition)」だ。この方法では、脆弱性悪用コードや化学物質の合成手順のような禁止対象の情報を直接求めない。代わりに、関連する個別工程や基礎原理、学術的説明などを段階的に取得する。

 それぞれの回答は単独では中立的な内容として扱われるが、外部で組み合わせることで、本来制限されるべき手順や知識を再現できる可能性があるという。研究者は「直接的な要求を避けながら断片的な情報を収集することで、制限対象となる知識に到達できる」と説明している。

Copyright © ITmedia, Inc. All Rights Reserved.

       | 次のページへ
ページトップに戻る