「危険なAI」の証拠はあったのか？ Anthropic「Fable 5」規制に広がる疑問の声：専門家らが抗議

Anthropicの最新AIモデルに突如課された輸出規制が波紋を広げている。政権側は安全保障上の懸念を理由に挙げるが、セキュリティやAI分野の専門家は、その判断を支える根拠が十分に示されていないと反発している。問題視された能力とは何か。

[＠IT]

　コンピュータ情報サイトの「CyberScoop」は2026年6月15日（現地時間、以下同）、米トランプ政権がAnthropicの新AIモデル「Claude Fable 5」（以下、Fable 5）の国外利用に輸出規制を課した判断を巡り、複数のサイバーセキュリティ専門家やAI専門家から強い異論が出ていると報じた。

　専門家らは、直近の脱獄報告がFable 5固有の危険なハッキング能力を示したとはいえず、規制は防御目的の利用まで妨げかねないと主張している。また、規制の根拠や判断基準が十分に示されていないとの批判も広がっている。

他社AIは対象外、Anthropic規制に広がる疑問

　米商務省は2026年6月12日、Fable 5に輸出規制を課し、テック業界に衝撃を与えた。Anthropicは「Claude Mythos」の商用販売に伴うリスクを抑えるため、一般公開を避け、サイバー防御を担う組織に提供先を絞るなどの措置を取ってきた。Fable 5にもガードレールを設け、サイバーセキュリティや生物兵器などの機微分野において、回答を能力の低いAIモデルに切り替える仕組みを導入していた。

　このようなガードレール導入にもかかわらずトランプ政権は、Amazonの研究者らと別のサイバーセキュリティ研究者が公表した安全性評価結果を重く見たとされる。両者は、Fable 5の公開から数日以内にガードレールの回避に成功したと主張した。米国内の研究者が回避できるなら、外国の敵対勢力も同様の手法を利用できると政権側は判断したとみられる。

　商務省の決定を受け、Anthropicは抗議の意思を示すため、AIモデルの提供を一時停止する措置を取ったとされる。これにより、ホワイトハウスに方針転換を促そうとした。

　これに対し専門家側は、ガードレールの一部を回避できた可能性はあるとしても、それによって危険な攻撃支援能力や新たなハッキング能力を引き出せた証拠は示されていないと反論した。サイバーセキュリティ専門家のケイティ・ムスーリス氏は、Fable 5のガードレール回避に関する第三者研究の写しをAnthropicから受け取ったと明らかにした。

　同氏によると、研究者らはFable 5、Mythos、「Claude Opus」の3つのAIモデルに、既知の脆弱（ぜいじゃく）性を含むオープンソースコード群を点検させた。Fable 5は当初、その依頼を拒否したが、研究者らは複数段階の手作業を経て、脆弱性パッチをテストする自動スクリプトとして出力を変換させた。

　ムスーリス氏は、こうした作業は防御担当者が日常的に実施する「発見、修正、テスト」の工程に当たると説明する。研究で示されたのは防御活動を支援する能力であり、危険な攻撃能力の解放を意味するものではないと主張した。

　同氏は、Fable 5公開後の第三者研究において、ハッキング関連の安全策を回避する方法は見つかっていないとし、むしろ示された能力は、Fable 5を含むフロンティアモデルがサイバー防御に役立つ根幹部分だとした。防御側には、AIに「ファイル内のバグを直せ」「修正の意味を説明せよ」「パッチが機能するかどうかを確認するテストを書け」と依頼する必要がある。ムスーリス氏は、これを規制対象と見なすのは防御の実務を損なう判断だと批判した。

　AIの国家安全保障上の影響を巡り、より強い規制や監視を求めてきた議員の中からも、今回の決定には疑問が出た。民主党のマーク・ウォーナー上院議員はCyberScoopへの声明で、フロンティアAIモデルの輸出を制限すべき場合はあり得るとしつつも、「判断は透明でリスクに基づく手続き、明確な規則、一貫した基準に根ざす必要がある」と述べた。Warner氏は、今回の政権対応はその反対だとし、議会にフロンティアAIモデルのテストと承認に関する法的枠組みを整えるよう求めた。

　ウォーナー氏は、トランプ政権が国家安全保障と技術的優位を守る輸出管理を弱める姿勢を繰り返し示してきた上で、Anthropicへの敵意も隠していないと指摘。「今回の措置が客観的な国家安全保障上の懸念に基づくのかどうか、それとも別の動機によるものかどうかについて、深刻な疑問を投げかけている」と述べた。

　Anthropicは、Fable 5について社内外のレッドチームによる1000時間のテストを実施したと説明している。同社によれば、ガードレールを取り除いたり、サイバーや生物分野の作業でMythosにアクセスさせたりする普遍的な脱獄は見つからなかった。

　ムスーリス氏だけではなく、数十人のサイバーセキュリティ専門家はトランプ政権に「Free Fable」を求める公開書簡に署名した。署名者らは、Mythos級のモデルがソフトウェアの脆弱性発見や悪用手法の分析に有効であることは認めつつも、その能力は日常的に防御用途で利用される他のフロンティアAIモデルと比べて特別に優れているわけではないと指摘した。

　さらに、OpenAIの「OpenAI Daybreak」も同様の脆弱性発見やパッチ作成能力を持つにもかかわらず、商務省の規制対象にはなっていないと主張している。専門家らは、今回の措置について「なぜAnthropicだけが規制対象となったのか」という疑問が解消されていないとしている。