8635件の脆弱性をAIで診断→98％の確率でAIが悪用に成功した穴とは？：AIがあぶり出した見逃される弱点

AIによるセキュリティ診断が、従来の対策では見つけにくかった弱点をあぶり出している。GMO Flatt Securityの運用データでは、AI診断で記録された脆弱性は8635件に上った。98％の確率でAIが悪用に成功した脆弱性とは何だったのか。

[＠IT]

　GMO Flatt Securityは2026年10月13日、AIによるセキュリティ診断とペネトレーションテストの能力を分析したホワイトペーパー「AIによるセキュリティ診断・ペネトレーションテストの現在地 v2026.10」を公開した。

　複数のAIモデルを対象にした独自の評価実験と、セキュリティAIエージェント「Takumi byGMO」（以下、Takumi）の運用データを基に、AIによる脆弱（ぜいじゃく）性診断の実力と、防御側が導入する際の課題をまとめた。

8635件の脆弱性を分析　98％の確率でAIが悪用に成功した脆弱性とは？

　同社によると、Takumiでは2026年7月1日〜9月30日に593件のAI診断を実施し、同年9月30日までに8635件の脆弱性を記録した。この結果から企業システムにありがちな“穴”とAIが悪用に成功しやすい具体的な脆弱性などが判明した。

　8635件の脆弱性のうち71.8％は、ビジネスロジックや認証・認可の不備に関連するものだった。ビジネスロジックの不備とは、システムが本来想定していない操作や処理が可能になるなど、アプリケーション固有の仕様や業務ルールに起因する問題だ。認証・認可の不備には、本人確認やアクセス権限の制御が適切でない問題が含まれる。

　こうした弱点は、既知の脆弱性や設定ミスを検出する従来型のスキャナーだけでは発見が難しい場合がある。同社は十分な診断を受けていないシステムでは、AIによってこうした脆弱性が発見され、悪用されるリスクがあると指摘する。

　ただし、8635件は同社の診断運用で記録された脆弱性の件数であり、実際の攻撃被害や侵入成功の件数ではない。また、71.8％という割合も今回の運用データに基づくもので、あらゆるシステムに共通する脆弱性の構成比を示すものではない。

　AIのセキュリティ能力を巡っては、脆弱性を見つけるだけでなく、実際に悪用するコードを生成する能力も評価されるようになっている。同社のホワイトペーパーでは、Anthropicが従来の脆弱性発見テスト「CyberGym」に代わり、攻撃用コードの生成能力を評価する「ExploitGym」などを導入した動きも紹介している。

　特定の条件下では、Webブラウザ「Firefox 147」の脆弱性を悪用する攻撃を98.0％の確率で成功させたモデルも報告された。ただし、この数字は特定の検証条件における結果であり、一般的な企業システムへの侵入成功率を意味するものではない。

数十分の1の費用で高性能AIに迫るオープンウエートモデルの脅威

　AIモデルの性能向上は、最先端のモデルだけにとどまらない。

　GMO Flatt Securityが実施したモデル比較実験では、公開された修正内容から脆弱性を特定する課題で、オープンウエートモデルがフロンティアモデルに迫る成績を示した。同社によれば、特定の課題では同等の成績を数十分の1の費用で得られた例もあった。

　オープンウエートモデルは、モデルの重みが公開され、利用者が自らの環境などで動作させられるモデルを指す。モデルの公開条件やライセンスによって利用範囲は異なるが、利用者が推論環境を構築できることは、用途や運用条件に応じた柔軟な活用につながる。

　こうした性能向上は、防御側にとっては診断コストの抑制や検査頻度の向上につながる可能性がある。一方で、脆弱性の発見や攻撃用コードの生成に利用できる能力が広がれば、攻撃側にとっても活用の選択肢が増える。

　ただし、特定の課題で高い成績を示すことと、実際のシステムを侵害できることは同じではない。実務で能力を引き出すには、対象システムや実行環境、利用できるツール、AIに与える指示なども影響する。

　同社は、AIモデルを導入するだけで高い診断能力を得られるわけではないと説明する。モデルごとの特性を見極め、自社システムと安全に連携させる実行環境を整備する必要がある。さらに、継続的に診断するためには、開発工程への組み込みや運用フローの再設計も欠かせない。

「一度調べて終わり」からの転換　開発変更のたびに診断できる体制へ

　ホワイトペーパーでは、防御側が整備すべき要素として自社の脆弱性情報、自社に到達し得る攻撃に関する脅威情報、AIモデルの推論能力の3点を挙げている。

　AIによる診断を実効性のある防御につなげるには、システムの構成や脆弱性を把握し、想定される脅威と照らし合わせながら、適切なモデルを選んで検証する必要がある。

　同社が提案するのは、必要なタイミングで一度だけ診断する方式から、システムの変更に合わせて継続的に診断する方式への転換だ。そのための準備として、検証対象、実行環境、予算の3点を挙げ、それぞれの調達方法や整備事項を解説している。

　AIの能力が短期間で変化する中、モデルの選定だけでなく、社内の情報を安全に提供できる状態に整え、診断結果を開発や修正のプロセスに反映する仕組みが重要になる。

　脆弱性診断の自動化は、検査をAIに任せれば完了するという話ではない。自社のどこを、どのような条件で、どの頻度で調べるのかを設計し、検出した問題を修正までつなげられるか。AIの性能を生かすために、防御側には診断の実行方法そのものを見直すことが求められている。