「AIエージェントには良心がない」――人間ともbotとも違う“特有の危うさ”とは：ID管理の前提が変わる（前）

AIエージェントの普及は、企業におけるID管理に大きな影響を与える。AIエージェントは、人間や従来の非人間IDと何が異なるのか。そのリスクを企業はどう見るべきなのか。

[遠藤文康，＠IT]

　「AIエージェント」の台頭によって、企業における業務遂行の在り方が大きく変わろうとしている。自ら判断し、システムやデータにアクセスするAIエージェントを活用することで、人が担ってきたさまざまな業務を任せられるようになる。こうしたAIエージェントの台頭を背景に、大きく揺らいでいる分野の一つが「アイデンティティー（ID）管理」だ。

　「AIエージェントには良心（conscience）がない」――。企業のID管理やIDセキュリティを支援するSailPointのフィールドCTO（最高技術責任者）、ダナ・リード（Dana Reed）氏はそう指摘する。AIエージェントは、人間とも、サービスアカウントやbotなど従来型の非人間IDとも異なるリスクをもたらす。AIエージェントは従来のIDと何が異なり、そのリスクをどう見るべきなのか。企業のID利用動向に詳しいリード氏に聞いた。

AIエージェントがもたらす技術的な転換点

――AIエージェントは自律的に判断して動くという点で、人間のユーザーとも、従来のシステムとも異なる性質を持ちます。こうした存在が企業内で増えることは、ID管理やリスク管理にどのような影響をもたらすのでしょうか。

SailPointのフィールドCTO、ダナ・リード氏

リード氏　この15年を振り返ってみても、企業のIDセキュリティにおいてこれほど大きな技術の転換点はなかった。従来、ID管理の対象は主に人間だった。その後、サービスアカウントやbotなどのマシンIDも管理対象になった。そして今、自律的に判断してデータやアプリケーションへアクセスする、AIエージェントという存在が加わっている。

　2026年に入ってからはAIエージェントが劇的な勢いで増えているが、それと同時に注視しなければならないのがリスクもそれに伴って増えることだ。AIエージェントの信頼性や安全性は、個々の処理ではワークフロー全体で見なければならない。例えば、AIエージェントが一つの作業を95％の確率で成功できるとする。それだけを見ると十分に高い精度に思えるが、その成功率を20の工程からなるワークフロー全体で考えると、最終的な成功率は約35％まで低下する。

　AIエージェントが担う業務は今後ますます複雑になり、自律的に実行するタスクも、数分で終わるものから数週間、数カ月かかるものへと広がっていく。

AIエージェントと従来型の非人間IDとの違い

――AIエージェントと、従来のbotやRPAとの違いとして何を押さえておくべきでしょうか。どのようなリスクがありますか。

リード氏　自動的に処理を実行するものとしてはbotやRPAもあるが、これらはあらかじめ定義された処理を実行するだけだ。人が「所有」するアカウントの延長として考えることができる。しかしAIエージェントは、自律的に判断しながらタスクを遂行する。与えられた権限を基に自ら次の行動を決める。人間のような意思は持たないが、従来のbotとは全く異なる振る舞いをする存在として見る必要がある。

　AIエージェントには良心（conscience）がない。AIエージェントが人間と同じ認証情報を利用する場合、これは大きな違いだ。AIエージェントは自分にroot権限やその他の権限があると認識すると、利用できるものは何でも使おうとする。だからこそ、AIエージェントに対する制御は、人間やセカンダリーアカウントに対する制御よりも、はるかに厳格でなければならない。

――求められる管理やガバナンスはどのように異なるのでしょうか。

リード氏　AIエージェントの全てを同じように考えてはいけない。クライアント側のAIエージェントは数多くの端末に分散して利用される一方、業務を実行するサーバ側のAIエージェントは比較的管理対象を限定しやすいという違いがある。

　クライアント側のAIエージェントは多くの場合、人間の仕事をする能力を拡張する存在だ。つまり人間に代わって仕事をする。サーバ側のAIエージェントは、企業の労働力を拡張する存在として動作する。例えばコールセンター業務を処理したり、為替取引を実行したりするものだ。

　役割や利用形態が異なる以上、求められるガバナンスも一律ではない。私はよくインフルエンザの予防接種に例える。どの種類のウイルスに備えるのかを理解していなければ適切な対策を講じられないのと同じだ。まずはAIエージェントを可視化し、役割や用途に応じて分類した上で、レジストリ（管理台帳）に登録する。新たに追加されれば、またそれぞれに適切なポリシーを適用できる状態にする必要がある。

　監視の方法もAIエージェントによって異なる。例えば、従業員が利用する生成AIでは機密情報の入力やプロンプトインジェクションへの対策が重要になる。一方で、業務を担うAIエージェントでは、どのような権限で何にアクセスし、期待通りの振る舞いをしているかどうかを監視することが重要だ。AIエージェントを一律に管理するのではなく、その特性やリスクに応じたガバナンスを設計することが求められる。

――特にリスクが高いエージェントは何でしょうか。

リード氏　特にリスクが高いと考えているのは、従業員が日常業務で利用するクライアント側のAIエージェントだ。多くの場合、AIエージェントはユーザーの代理として動作するが、そのユーザー自身がAIエージェントに何ができるのか、どのようなリスクがあるのかを十分に理解していないケースがよくある。

　例えば、資料作成のために生成AIを利用する際も、入力した情報がどのように扱われるのかを理解しないまま利用すれば、情報漏えいなどのリスクにつながる可能性がある。AIエージェントを利用する以上、その利用者や管理者には適切に監督する責任が伴う。

　重要なのは、AIエージェントの行動を継続的に監視し、適切なガバナンスを適用することだ。AIエージェントが本来の目的通りに動いているのか、意図しない振る舞いをしていないかを把握し、必要に応じて制御できる仕組みが欠かせない。だが企業は生産性向上やコスト削減を目的にAIエージェントの導入を急速に進める一方、それを適切に統制するためのガバナンスはまだ十分に整っていないのが現状だ。

---

　後編では、AIエージェントの行動に対して誰が責任を負うのか、企業はどのようにAIエージェントのIDを管理・統制すべきなのかを取り上げる。