AIの「情報漏えい」リスクにどう対応する？――日本マイクロソフトCSO河野氏が「Security Copilot」を紹介：チャットAIは、あくまで「頭の良いインタフェース」

日本マイクロソフトは2023年4月20日、「Chat AIを活用した 新しいセキュリティ運用」と題する記者発表会を開催した。内容は3月28日に発表された「Security Copilot」をベースとしたもので、MicrosoftにおけるAI活用として、どのように安全性を向上させつつ、実務に展開するかを紹介した。

[宮田健，＠IT]

AIを「コパイロット」（副操縦士）として活用するためには

　MicrosoftはAIを、パイロットである利用者の隣に座る“副操縦士”（コパイロット）として定義している。昨今では日本の国会答弁でもOpenAIの「ChatGPT」を使う事例もあったが、日本マイクロソフト 技術統括室 チーフセキュリティオフィサー（CSO）の河野省二氏は、「チャット型AIを利用するには、AIにおけるリスク分析も必要だ」と話す。

　MicrosoftはAIを活用した「Copilot」（コパイロット）シリーズのサービスを幾つかリリースしており、それをセキュリティでも活用しているのが「Security Copilot」だ。インタフェースとしてはチャット形式を用いており、「運用上セキュリティで悩むことを相談する相手として、またドキュメント作成を手伝うアシスタントとして、Copilotを活用できる」と河野氏は述べる。

　Security Copilotの詳細を紹介する前に、河野氏はSecurity Copilotをリリースした背景として「Microsoft Security」を紹介した。

　意思決定のためのキーワードとして、これまでは、シグナルをまとめて組織のポリシーを適用する「条件付きアクセス」（Conditional Access）が挙げられていた。これは例えば「ユーザーがリソースにアクセスする場合、ユーザーはアクションを完了する必要がある」という、コーディングの「if-then」ステートメントといえる。

　「条件付きアクセスには、これまではPC内にあるローカルの情報を使っていた。それが『Microsoft 365』を使うことでエンドポイントの情報を共有できるようになり、2020年ごろにはMicrosoft全体で8兆5000億のシグナルとして共有され、それを利用者に脅威インテリジェンスの形で返すことができるようになった。現在では65兆のシグナルを処理しており、Microsoftはこれを基にした『セキュリティの自動化』によって、サイバーハイジーン（衛生管理）を実現している」（河野氏）

「Microsoft Security」

　Security CopilotはMicrosoft Securityの延長線上にある。Microsoftが提唱する「Do more with less」（より少ないリソースでより多くを）に沿い、さまざまな情報ソースをフル活用し、さらなる活用を対話形式でシンプルに行うのが、チャットインタフェースを使うSecurity Copilotだ。

　「ユーザーはプログラミングではない、“自然言語”で話すことができる。その返答で分からないことがあれば、また聞くことができる。いままでのダッシュボードやハンティングの画面は一方通行だったが、『インタフェースの拡充』サービスとしてSecurity Copilotが用意されている」（河野氏）

Microsoft SecurityにおけるSecurity Copilotの位置付け

AIにおける「情報漏えい」リスクにどう対応する？

　Security Copilotは、さまざまな情報ソースから現在進行形の攻撃を特定し、セキュリティインシデントで実証された戦術に基づくインシデント対応方法や、組織が既知の脆弱（ぜいじゃく）性や悪用の影響を受けやすいかどうかを確認するような脅威ハンティングを提供する。さらに、イベントやインシデント、脅威を要約し、報告先に合わせてカスタマイズ可能な報告書を自動作成するなど、これまでの製品とは一線を画す機能を提供する。

　「いったん提示された対応方法で足りない情報は、自然言語で対話しながら、最終的なリザルトを得ることができ、繰り返し質問していくと深まった回答が出てくる」（河野氏）

Security Copilotの機能の一部、報告書の自動作成

　重要なのは、チャットでの対話形式に関してはあくまで「頭の良いインタフェース」（河野氏）という点だ。これらは全て、さまざまなアプリケーションやMicrosoft 365の中にあるデータ、グラフなど参照するリソースから得られるインサイトであり、参照先のサービスによって出力が変わってしまう。AIの活用に関しては、「データソースがどこにあり、それがどこで活用されるか」が注目されているが、MicrosoftのCopilotシリーズにおいては、設定やルール、トレーニングデータ、イベントログおよび「Microsoft Graph」などのデータは顧客テナント内で閉じていることを河野氏は強調する。

Copilotシリーズにおけるデータの活用

　「ユーザーのデータは、AIモデルの基盤を訓練するためには利用されない。Microsoftが作っているChat AIのコア部分では共有されず、ユーザーのローカルなテナント内だけで使われているので、ユーザーのデータは組織全体のセキュリティ対策やコンプライアンスに従って保護される」（河野氏）

Security Copilotにおける基本方針