「うちのAIエージェントって安全？」 イエラエが新たなペンテストを発表：ホワイトハッカーが徹底検証

AIエージェントやRAGの業務利用が進む一方、これに伴い新たなリスクが生まれている。これに向け、ホワイトハッカーが実環境を再現し、プロンプトインジェクションや権限逸脱まで検証する新たなサービスが登場した。

[＠IT]

　GMOサイバーセキュリティ byイエラエ（以下、イエラエ）は2026年4月27日、企業内のAIエージェントやチャットbot、RAG（検索拡張生成）などを対象に、攻撃者と同様の手法でリスクを検証する「AIエージェントペネトレーションテスト」の提供を開始した。

ホワイトハッカーが業務環境に合わせた独自の攻撃シナリオで徹底検証

　同サービスは、ホワイトハッカーが企業の業務フローやシステム構成、権限設定、外部アプリケーションとの連携状況を踏まえ、AI起点の情報漏えいや不正操作、権限の逸脱につながる危険性を実践的に検証する。

　企業ごとに異なる利用環境に応じて検証シナリオを設計し、実際の攻撃に近い形で問題点を明らかにする。結果として、AIの業務利用に伴うリスクを把握し、具体的な改善策の提示を受けられる点が特徴だ。

　各業界で業務効率化や生産性向上を目的としたAI活用が急速に広がっている。AIを業務プロセスに組み込む企業が増えた一方で、AIが取り扱うデータやシステム連携の範囲が広がり、新たなセキュリティ課題も浮き彫りになっている。特に個人情報や機密情報が意図せず外部流出する可能性や、AIが攻撃の足掛かりとして悪用されるリスクへの懸念が高まっている。

　同サービスでは顧客へのヒアリングを通じてAIの利用状況を詳細に把握し、専用のテストシナリオを構築する。検証ではテスト用の業務端末を使い、実際の攻撃者と同等の手法を適用する。具体的には大規模言語モデル（LLM）へのプロンプトインジェクションの挙動確認に加え、AIが持つ権限やアクセス可能なデータ、連携するシステム全体を対象に評価する。これによって単体のAIモデルでは見えにくい、運用環境全体に起因するリスクの抽出が可能となるという。

　想定される主なリスクとしては、まずAIが業務データや機密情報にアクセス可能な状態にある場合、悪意ある指示の混入によって情報が外部流出する危険がある。またAIエージェントに付与された権限が適切に制御されていない場合、本来アクセスできないデータへの操作が可能となるケースも想定される。外部システムやワークフローとの連携が悪用されることで、AIを経由してシステム全体に影響が及ぶ可能性もある。

　同サービスは、AIセーフティ・インスティテュート（AISI）が策定した「AIセーフティに関するレッドチーミング手法ガイド（第1.10版）」に基づく検証にも対応する。同ガイドはより高度な検証を求める企業ニーズに応えるため、AIシステムの安全対策を攻撃者視点で評価する方法を体系化したものだ。

　調査対象には「Microsoft 365 Copilot」や「Azure OpenAI」といったエンタープライズ用AIサービスの他、業務自動化を担うAIエージェント、社内ナレッジ検索を行うRAGシステム、チャットbotなどが含まれる。ファイル管理やチケット管理、CRM、ワークフローなどとの連携を伴うAI機能も対象とし、実運用に近い環境での検証を重視している。

　同社は今後、AIの活用が拡大する中で、従来のモデル単体評価では把握が難しいリスクへの対応が不可欠になるとみている。同サービスを通じて企業の安全なAI活用を支援しつつ、診断ノウハウを蓄積し、継続的なサービス改善と機能拡充を進める方針だ。ホワイトハッカーの技術力を生かし、最新の脅威に対応したセキュリティサービスの提供を通じて、デジタル社会の安全性向上に貢献するとしている。