「AIエージェントの約半数が"戦力外"になる」 なぜ企業は使いこなせない？：Gartnerが予測する2つの失敗モード

Gartnerは、2027年までに企業の40％が自律型AIエージェントを格下げまたは廃止すると予測している。そうした悲観的な見方の背景にはどのような問題があるのか。

[＠IT]

　企業はAIエージェントの本格活用に向けて、ガバナンス（統制）を一律に強化することが必要だと考えがちだ。だが、一見安全に見えるそうした発想は危ない。調査会社Gartnerは2027年までに、企業の40％が、本番環境で自律的に稼働するAIエージェントを格下げまたは廃止すると予測している。そうした悲観的な見方の背景にガバナンスがある。企業のAIエージェントはどのような失敗に陥る可能性があるのか。

AIエージェントを廃止に追い込む“2つの失敗モード”

　Gartnerは2026年5月26日（米国時間）、自律性のレベルやアクセス範囲を考慮せずに全てのAIエージェントに対して一律のガバナンスを適用すると、AIエージェント活用の失敗を招きかねないと指摘した。

　AIエージェントはそれぞれ異なる自律性レベルで動作する。AIエージェントが稼働する領域の信頼性も異なる。同じ統制を一律に適用すると、組織は2つの典型的な失敗モードに直面するという。一つは、単純なAIエージェントに過剰な制限を課すことで、その提供が遅滞し、シャドー開発を助長することだ。その反対に、自律的なAIエージェントにほとんど制限を課さなければ、運用やセキュリティ、コンプライアンス（法令順守）のリスクが高まる。

　Gartnerのシニアディレクターアナリストであるシヴァ・ヴァルマ氏は、AIエージェントのガバナンスを「厳しく制限するか、全面的に信頼するか」という二者択一として扱っている点が失敗の根本原因だと述べている。

自律性レベルに応じた「比例的ガバナンス」

　こうした失敗モードを軽減するため、GartnerはAIエージェントを自律性レベルごとに分類し、レベルに応じて統制を変える「比例的ガバナンス」のアプローチを推奨している。各レベルは異なる信頼境界と、それに対応するガバナンス要件を表す。Gartnerは具体的に、以下の4段階の自律性レベルを提示している。

AIエージェントの自律性の4つのレベル。右に進むほど自律性が高まり、エージェントと人間の役割分担が変化する（提供：Gartner）

レベル1：観測（Observe）

　定義されたデータソースへの読み取り専用アクセスに限定され、出力は要求したユーザーにのみ表示される。文書の要約やデータ検索、コードの説明などが典型例だ。主なリスクはデータ漏えいと出力精度に限られるため、範囲を絞った統制が求められるという。

レベル2：助言（Advise）

　推奨事項やドラフト、行動案を生成するが、実行は人間が全ての出力をレビューした上で手動で行う。読み取り専用アクセスにとどまり、書き込みはできない。ただし自動化バイアスで不正確な出力が信頼されると後続処理にリスクが及ぶため、レベル1の統制に加え、精度やハルシネーションのテスト、AI出力を過信しないためのユーザートレーニングが求められる。

レベル3：承認付きの実行（Act with Approval）

　データの書き込みや構成の変更といったアクションを実行できるが、全て人間の明示的な承認を得た後に限られる。ヴァルマ氏は「人間によるレビューが実質的な統制として機能し続けることが重要だ」とし、強固なセキュリティテストや監査証跡を伴う承認ワークフロー、エージェント固有のインシデント対応手順が必要だとする。これらがなければ承認は形骸化し、安全だという誤った感覚を生みながら攻撃対象領域を広げてしまう。

レベル4：自律的な実行（Act Autonomously）

　定義されたガードレール（安全対策）の範囲内で、エージェントがアクションを独立して実行する。人間は1件ごとの判断ではなく、例外や監査ログ、集約された結果をレビューする。ヴァルマ氏は「人間の監督を超える規模と速度で動作する可能性があるため、最も厳格なガバナンスが求められる」と述べる。

　継続的な監視や厳格なガードレール、迅速なロールバック（以前の状態への復元）の仕組み、閾値（しきいち）超過時に動作を止めるサーキットブレーカーなどが必要で、挙動に対する結果責任は組織が負う必要がある。

---

　自律性の異なるエージェントに一律の物差しを当てるのではなく、それぞれの信頼境界に見合った統制をどう設計するか――。それが、40％という「格下げ・廃止」の予測を回避できるかどうかの分かれ目になりそうだ。