AIが機密情報を漏えいさせかねない時代、AIリスクとどう向き合えばよいのか：AIリスク顕在化「3つの根本原因」と対策

生成AIの利用拡大でシャドーAIやAI経由の情報漏えいリスクが喫緊の課題となりつつある。企業のAIセキュリティをいち早く支援してきたAim Securityと、同社との統合を2025年9月に発表したCato Networksに、AIリスクとの向き合い方を聞いた。

PR／＠IT

PR

　生成AI（人工知能）が日々進化する中で、自律的にタスクをこなす「AIエージェント」に注目が集まっている。AI導入による人手不足の解消や生産性の向上、付加価値の創出など、経営層や現場が寄せる期待は大きい。

　だが、AI活用が広まるにつれて、AIリスクへの対応が複雑かつ喫緊の課題となりつつある。LLM（大規模言語モデル）のリスクとして「ハルシネーション」や「著作権侵害」が指摘されている他、従業員が許可されていないAIサービスを利用する「シャドーAI」といったガバナンスの問題もある。AIサービスをよく理解しないまま利用し、設定ミスなどから機密情報が漏えいするといったリスクも懸念されている。

　こうしたAIリスクに対して企業はどう向き合えばよいのか。

　本稿は、2022年に創業し、企業のAIセキュリティをいち早く支援してきたAim Securityと、2025年9月に同社の買収、統合を発表したCato Networksにインタビュー。AIリスクとの現実的な向き合い方を聞いた。

ChatGPTの登場がフェーズを変えた　「有用性」の裏に潜むリスクの肥大化

　Aim Securityのマタン・ゲッツ氏は、AIを取り巻く変化についてこう話す。

Aim Security 共同創業者兼CEO（最高経営責任者） マタン・ゲッツ氏

　「2022年11月に『ChatGPT』が登場して以降、AIに対するリスク／リワードのバランスは崩れたといえます。企業は新たに登場した生成AI技術から大きな成果を得られるようになった一方で、成果を帳消しにしかねないほどのサイバーセキュリティリスクを抱えるようになりました。2022年にAim Securityを創業したのは、AIにまつわるセキュリティ課題を包括的に解消するためです」

　ゲッツ氏は、イスラエルのサイバー諜報（ちょうほう）機関「Unit 8200」出身で、同機関出身のアディール・グルース氏とともにAim Securityを創業。Cato Networksによる買収後も、両者でCato NetworksにおけるAIセキュリティの事業を率いると同時に、Aim SecurityのソリューションをCato Networksプラットフォームに統合させる取り組みを進めている。

AI活用で求められる「ガードレール」

　そもそもAIをどう捉えるべきで、AIにまつわるリスクにはどのようなものがあるのか。

　「生成AIのトレンドは、チャットbotからAIエージェントに変わっています。先日会った日本企業のリーダーは『これからAIエージェントの数を数万規模にする』と教えてくれました。しかし、AIはまったく新しい『生き物』であり、LLMがどう進化するかを予測することは誰にもできません。それが強みであり、弱みでもあります。AIは人に代わって仕事をこなすことができるものの、無責任な意思決定もします。AIを活用する上では『ガードレール』が欠かせません。ガードレールを用意することで、AIからきちんとした成果を得られるようになります」（ゲッツ氏）

　Cato Networksの金子春信氏は、日本のAI活用において幾つか気になる点があると説明する。

Cato Networks アジア太平洋地域フィールドCTO（最高技術責任者） 金子春信氏

　「AIの活用は、大企業から中小企業まで幅広い業種、業態で進んでいます。大企業は『Microsoft Copilot』や『ChatGPT Enterprise』を導入し、社員への利用を促進しています。一方で気になるのは、正式に採用したAIサービス以外に十分な注意が払われていないケースが多く見られることです。従業員が自由に使うAIサービスを管理、統制するところまで手が回っていないのです。それぞれが手探りでAIセキュリティの取り組みを進めているため、シャドーAIのリスクが顕在化しています」

　ガードレールがないまま、リスクだけが肥大化する状況だ。ゲッツ氏と金子氏は、AIリスクが顕在化する背景には、3つの根本原因があると指摘する。

　1つ目は、「AIの導入が容易」という誤解だ。

　「『言語や地域の壁がないため、AIはすぐに利用できる』と思われています。しかし企業で利用する場合、各国の法律や規制に適合させる必要があります。適合させるプロセスなしで導入を進めれば、予期せぬコンプライアンス違反や重大なセキュリティインシデントにつながりかねません」（ゲッツ氏）

　2つ目は、「AIは従来の製品やポリシーで保護できる」という誤解だ。

　「以前から導入しているDLP（データ損失防止）製品でAIによるデータ流出をブロックしたり、CASB（クラウドアクセスセキュリティブローカー）などの機能を利用してトラフィックを可視化したりするケースが増えている印象です。こうしたアプローチは特定の領域の取り組みに限られてしまい、限界があります。AI自体の進化が速いため、既存ソリューションでは変化に追随できないケースも増えるでしょう」（金子氏）

　3つ目は、「AIを狙った攻撃はまだ少ない」という誤解だ。

　「AIを利用することでアタックサーフェス（攻撃対象領域）は大きく広がっています。AIを狙った攻撃をいつ受けてもおかしくないと再認識する必要があります」（ゲッツ氏）

　Aim Securityのリサーチ部門は「Microsoft 365 Copilot」の脆弱（ぜいじゃく）性「EchoLeak」（CVE-2025-32711）やAIエディタ「Cursor」の脆弱性「CurXecute」（CVE-2025-54135）を発見した実績もある。こうした未知の脆弱性が悪用され、AI経由で機密情報が漏えいしたり不正なコードが実行されたりするといったリスクにも向き合う必要があるというわけだ。

Aim SecurityとCato Networksが統合、ネットワーク起点で包括的なセキュリティを支援

　では、どのような取り組みを進めればよいのか。ゲッツ氏は、AIリスクを正しく把握するために、リスクを包括的に監視できる仕組みが必要だと指摘する。その鍵となるのがネットワークだ。

　「AIサービスへのアクセスや、AIエージェント同士のやりとりなどを見れば分かるように、全ての通信はネットワークを介して行われます。AIを利用するデバイスやブラウザなどのエンドポイントのみを保護するのではなく、ネットワーク全体を把握して、包括的な対策を講じることが重要です。Aim SecurityとCato Networksの統合によってネットワークを活用した包括的なAIセキュリティソリューションを提供できます。Cato Networksのネットワークインフラの中にAIセキュリティを組み込むことで、強固なデータ保護を実現し、AIの脆弱性を狙った攻撃への対策も可能になります」

Aim Securityの優位性（提供：Cato Networks）《クリックで拡大》

　Cato Networksに統合されたAim Securityのソリューションは3つの特徴がある。1つ目は、統合セキュリティプラットフォームであることだ。

Aim Security共同創業者兼CTO（最高技術責任者）アディール・グルース氏

　「統合セキュリティプラットフォームの特徴は、包括的な可視化とポリシーによる制御にあります。Aim Securityの機能をモジュールとしてCato Networksのグローバルネットワークに組み込んでおり、エンドユーザーが利用しているAIサービス自体やAIとの対話で入力したプロンプトを可視化できます。シャドーAIへの対応はもちろん、プロンプトからの情報漏えいにも対応できます。AI利用のルールやポリシーを強制適用することで、設定の不備やミスを防ぐといったAIのポスチャーマネジメント（態勢管理）も可能です」（グルース氏）

　2つ目は、社内で開発、構築したAIを保護できる点だ。

　企業によっては、既存のAIサービスをクラウド経由で利用するだけでなく、「Amazon Bedrock」「Azure OpenAI Service」「Google Cloud Vertex AI」といったサービスを活用して自社でAIを開発、構築するケースもある。外部のAIサービスはもちろん社内のAIを保護できる。

　「海外のある金融機関では、顧客サービス向上のためにAIアプリケーションを自社で開発し、活用しています。そうした環境を包括的に保護するために、Aim Securityのソリューションを導入した実績があります。日本の企業でも、海外拠点で既に大規模なAI基盤を構築、運用しているケースがあり、Aim Securityのソリューション『Aim AI Firewall』が採用されています」（グルース氏）

　3つ目は、AIエージェント向けのセキュリティソリューションを展開している点だ。現在は開発段階だが、アーリーアクセスカスタマー向けに提供している。

　「AIエージェントに対するセキュリティ対策として他社にはないソリューションです。すでに特許を取得しており、一般ユーザーに向けて間もなくリリースされる見込みです」（グルース氏）

　Aim Securityのソリューションは、段階的にCato Networksのプラットフォームに統合される予定だが、ソリューションをスタンドアロンで利用できる選択肢も残しており、既存ユーザー、新規ユーザーがそれぞれAim Securityのソリューションを活用してAIセキュリティを柔軟に実現できる体制を整備する計画だ。

　Cato NetworksとAim Securityの統合がもたらすメリットについて、ゲッツ氏はこう強調する。

　「管理コンソールの一元化やUI/UX（ユーザーインタフェース／ユーザー体験）はもちろん、データやコンテキストも含めて統合を進めています。SASE（Secure Access Service Edge）の各機能やAIセキュリティのコンポーネントをパズルのように組み合わせて連携させる必要はありません。Cato NetworksとAim Securityは今後完全に統合され、コンテキストの把握から、データ保護、ポリシー適用まで、一貫して実施できるようになります。企業のAI活用をセキュリティの観点から強力に支援していきます」（ゲッツ氏）