米国のNSA、CISA、FBIは、中国AI企業が米国のフロンティアモデルから組織的に「知識蒸留」を行っているとして共同勧告を公開した。プロキシ経由で推論機能などを抽出していると指摘し、対抗措置を推奨している。
米国の国家安全保障局(NSA)、国土安全保障省サイバーセキュリティインフラセキュリティ庁(CISA)、連邦捜査局(FBI)は2026年9月8日(米国時間)、中国のAI企業が米国のフロンティアモデルから組織的に機能を抽出しているとして、共同サイバーセキュリティ勧告を公開した。
勧告によると、中国のAI企業は産業規模の「知識蒸留(Knowledge Distillation)」を展開し、米国のフロンティアモデルが備える独自の機能や推論能力を抽出している。知識蒸留自体は一般的な研究手法だが、今回は米企業の利用規約やアクセス制限を組織的に破り、自社モデル開発の中核に据えている点が問題視された。
標的となったのは、Anthropicの「Claude」、OpenAIの「GPT」、Googleの「Gemini」、xAIの「Grok」などのフロンティアモデル群だ。少なくとも2024年後半以降、数百万件のリクエストを通じて数十億トークンが抽出されたとしている。
勧告では、中国政府の認識の下で関与した企業として、DeepSeek、Moonshot AI、Alibaba Group、MiniMax、StepFun、Z.AIの6社を挙げた。
これらの企業は、米国のフロンティアモデルとの性能差を短期間で埋める目的で蒸留を実行したとされる。例えばDeepSeekは、2025年初頭に公開した推論モデル「DeepSeek-R1」などの訓練データを生成するために2024年後半から組織的な蒸留キャンペーンを実施した。
DeepSeekは「Claude Sonnet 3.7」「Claude Sonnet 4」「Gemini 2.5 Pro Preview」「GPT-4o」「GPT-5」などを標的に、法律分野の最適化やAPI駆動型タスク、エージェント機能を抽出したとされる。米当局は、DeepSeekが公表する560万ドルの学習コストについて、悪意ある蒸留で取得したデータのコストが含まれておらず、誤解を招くものだと指摘した。
Moonshot AIは「Claude Fable 5」「GPT-4o」から抽出したデータを自社モデル「Kimi-K2」「Kimi-K3」の訓練に利用した。
MiniMaxはコーディング支援ツール「Claude Code」「Gemini 3 Pro」からソフトウェア開発やコードレビュー能力を抽出した他、プロンプトインジェクションを用いて「Claude Code」自身に自社製品と誤認させようと試みた事例も確認された。
中国企業がアクセス制限や利用規約を回避するために用いた手法は、脅威フレームワーク「MITRE ATLAS」にマッピングされている。
初期アクセスには、「中継所(transfer stations)」というAPIプロキシのグレーマーケットが利用された(AML.T0008:インフラの獲得)。中継所はフロンティアモデルへのアクセスを正規価格よりも安価に再販しており、地域制限の回避やアカウント追跡の妨害に悪用された。
中国企業は、架空情報で登録した大量の不正アカウントやサードパーティーのAPIアグリゲーターを併用し、協調的な大量クエリを実行した(AML.T0040:AIモデル推論APIアクセス)。
抽出フェーズでは、大規模言語モデル(LLM)に対するプロンプトインジェクションやジェイルブレークの手法が悪用された(AML.T0051、AML.T0054)。
米国のフロンティアモデルは通常、内部の思考プロセス、CoT(思考の連鎖、Chain of Thought)出力を隠蔽(いんぺい)している。しかし攻撃側は、モデルに回答に至る内部推論を想像させ、ステップ・バイ・ステップで書き出させるプロンプトを投入。これにより、事実知識だけでなく、複雑なタスクや論理証明に必要な思考手順そのものを抽出した。
収集活動(AML.TA0009)は特定領域に絞られ、ドメインごとに数千件から数百万件のクエリが数日から数カ月にわたり実行された。モデル提供側による防御的なデータ品質低下を検知するために、マルチモーダル検証を備えた品質保証パイプラインを配備していたことも判明している(AML.T0042:攻撃の検証)。
Copyright © ITmedia, Inc. All Rights Reserved.