AIエージェントの利用が広がりつつある中、自律的に行動するAIエージェントの責任の所在をどう明確にし、アクセス権限をどう制御するのかが問われる。企業のID管理には何が求められるのか。
この記事は会員限定です。会員登録(無料)すると全てご覧いただけます。
企業におけるAIエージェントの活用が広がる中、AIエージェントにどのような権限を与え、その行動をどう管理するのかが新たな課題となっている。従来の人間を中心としたID管理の仕組みをどのように変えていく必要があるのか。
前編では、IDガバナンスやセキュリティを手掛けるSailPointの共同創業者兼CEOで、同分野に精通するマーク・マクレーン氏に、AIエージェントの普及が企業のID管理に与える影響やリスクについて聞いた。
AIエージェントをはじめとする非人間IDは、数が膨大で変化も速く、企業がその全体像を把握することは容易ではない。存在を把握できたとしても、それぞれのIDにどのような権限を与え、誰が責任を持って管理するのかという課題が残る。
後編では、AIエージェントの行動に誰が責任を負うのか、アクセス権限をどう管理し、セキュリティ上のリスクにどう対処すべきなのかを聞いた。
――人間が把握していないところでAIエージェントが不適切な動作をしたり、問題を引き起こしたりする可能性もある。こうしたAIエージェントを、企業はどのように管理・統制すべきなのか。
マクレーン氏 管理・統制についての基本的な考え方は、人間のIDと非人間IDで共通している。ただし、非人間IDの場合、人間のIDと比べて、適切な管理ポリシーやルールを定めることが難しくなる。重要な考え方の一つは、AIエージェントの行動に対して、誰が責任を負うのかを明確にすることだ。全てのAIエージェントは、その責任を負う人間とひも付けて管理する必要がある。
例えば、「Microsoft Copilot」のように特定の個人が利用するAIエージェントであれば、その人との関係は明確だ。一方、「Salesforce」でチームや部門が共同利用するAIエージェントの場合もある。そのようなケースでも、エージェントが許可されていない動作をしたときに、誰が責任を負うのかを明確にする必要がある。企業が独自に開発したAIエージェントについても同様だ。
――AIエージェントと人間の関係を明確にすることが、なぜID管理において重要になるのか。
マクレーン氏 人間に代わってどのようなAIエージェントが動いているのかを把握しなければ、その人間のIDを適切に管理することはできない。逆に、AIエージェントの責任を負う人間が誰なのかを把握しなければ、AIエージェントを適切に管理することもできない。つまり、両者の関係を把握した上で、一体的に管理することが重要になる。
例えば何らかの問題が発生した場合、責任を負う担当者や組織が必要になる。AIエージェントそのものを相手に訴訟を起こすことはできない。だからこそ、最終的に責任を負う人間を明確にしておかなければならない。
――マネジャーも部下も全てAIエージェントで構成される組織を試験的に構築する動きも出てきている。こうした人間が直接関与しないAIエージェントだけの組織にも、責任を負う人間をひも付けるという考え方は適用できるのか。
マクレーン氏 米国などでも、マネジャーやディレクター、バイスプレジデント(VP)といった複数の階層をAIエージェントで構成する取り組みが進んでいる。
しかし、たとえチームの全員がAIエージェントであっても、そのチームに仕事を与え、方向性を指示した人間が組織内にいるはずだ。AIエージェントだけで構成されるチームが、自ら仕事の目的や任務を決めたわけではない。組織のどこかの階層にいる人間から指示を受けているはずだ。
重要なのは、最終的に誰が責任を負うのかという点にある。必ずしも個々のAIエージェントと人間が1対1で対応している必要はない。AIエージェントで構成されたチーム全体について、組織内の誰かが最終的な責任を負うという関係が必要になる。
これは、規制当局や企業の経営陣にとっても重要な問題だ。AIエージェントが不適切な行動を取った際に、責任を負う人間が誰もいないという説明は、規制当局や法律の専門家には受け入れられないだろう。だからこそ、AIエージェントだけで構成される組織であっても、最終的な責任の所在を人間に求める必要があると考えている。
――AIエージェントが人間をはるかに上回る速度で処理を実行するようになる中、IDのアクセス権限を制御する仕組みには何が求められれるのか。
マクレーン氏 従来のIGA(Identity Governance and Administration:IDガバナンス・管理)は、IDのライフサイクル管理やコンプライアンス対応など、管理業務が中心だった。こうした業務では、必ずしもリアルタイムで変更を加える必要はなかった。
しかし、AIエージェントの普及によって、状況は変わりつつある。AIエージェントは人間よりも速いスピードで処理を実行するため、アクセス権限の制御にもリアルタイム性が求められる。AIエージェントに必要以上の権限を常時与えておけば、その権限が悪用されるリスクも生じる。
そこで重要になるのが、「ゼロ・スタンディング・プリビレッジ(Zero Standing Privilege)」という考え方だ。AIエージェントなどのIDに対し、必要な時に必要な権限だけを付与し、作業が終わればその権限を利用できない状態に戻す。
従来のPAM(特権アクセス管理)でも、管理者が必要な認証情報を取得し、作業を終えたら返却するという仕組みが使われてきた。この考え方を、膨大な数のAIエージェントに対しても適用する必要がある。
――IDの保護では、アクセス権限の制御だけでなく、サイバー攻撃の兆候を検知し、迅速に対処することも重要になる。他のセキュリティ製品との連携については、どのように考えているのか。
マクレーン氏 単一のセキュリティベンダーだけで、必要なセキュリティ対策を全て提供できるとは考えていない。われわれは、これを「シグナルの共有(Shared Signals)」と呼んでいる。例えば、CrowdStrike、Palo Alto Networks、Zscaler、Cisco Systemsなどのセキュリティ製品とSailPointが情報を交換する、といった形だ。
EDR(Endpoint Detection and Response)やネットワークセキュリティ製品などは、デバイスやネットワーク上で不審な兆候を検知できても、それがどのIDに関係しているのか、どのようなアクセス権限を持つIDなのかまで十分に把握できない場合がある。一方、IGA製品は、IDとそのアクセス権限に関する情報を管理している。
こうした情報を組み合わせることで、不審な挙動とIDの関係を把握し、問題が発生しつつある箇所を絞り込める。そして、複数の観点から問題の兆候が確認された場合には、「キルスイッチ」によって、その動作を停止させる。これもIDを保護するための重要な仕組みだ。
――企業にはAIの活用を加速させなければ競争に取り残されるという危機感がある。一方で、AIエージェントのID管理をはじめ、セキュリティ面の懸念も大きい。
マクレーン氏 企業の事業部門では、AIやAIエージェントの活用をさらに進めたいという思いが非常に強い。これは世界中の企業と話をしている中で共通している。導入状況には違いがあるが、どの企業も何らかの段階でAIエージェントの導入を進めている。しかし、現時点でAIエージェントに対して十分な保護対策を講じている企業は、ほとんどない。
企業の中には、暗い隅に張ったクモの巣のように、普段は見えていない問題がある。実際には、自社が認識している以上に大きなリスクを抱えている可能性が高い。
セキュリティ業界には「見えないものは守れない」という言葉がある。だからこそ、まずはAIエージェントや非人間IDなど、企業内に存在するものを発見し、把握することが重要だ。
現在の企業の状況は、F1のレーシングカーに例えられる。事業部門は新しいAI技術をいち早く導入しようと、アクセルを踏み込んでいる。一方、セキュリティ部門は「まだ準備ができていない。リスクが大き過ぎる」とブレーキを踏んでいる。そして今は、アクセルを踏む側の勢いが勝ち始めている。AI活用を加速させようとする圧力は非常に強い。だからこそ、セキュリティ部門には適切なブレーキが必要だ。
「何も信頼しないゼロトラスト」 その“仕組み自体”はどこまで信頼できる?――防げる脅威、防げない脅威
「REST API→MCP化」で何が問題に? オリックスが探った“認証・認可とトークン消費”への対処法
「AIエージェントには良心がない」――人間ともbotとも違う“特有の危うさ”とはCopyright © ITmedia, Inc. All Rights Reserved.