AIガバナンス不足で2028年までに企業の25％が事業損失　効果的な対策は：Gartner Insights Pickup（426）

会話型AIの導入が広がる一方、その自由で自然なやりとりが企業に新たなリスクをもたらし始めている。エラーやバイアス、セキュリティなど、従来の手法ではカバーし切れない課題が次々と顕在化している。本稿では、ガバナンスの重要性と安全で信頼できるAI活用について解説する。

» 2025年12月12日 05時00分公開

[Bern Elliot, Gartner]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

ガートナーの米国本社発のオフィシャルサイト「Insights」などのグローバルコンテンツから、＠IT編集部が独自の視点で“読むべき記事”をピックアップして翻訳。グローバルのITトレンドを先取りし「今、何が起きているのか、起きようとしているのか」を展望する。

　会話型AIは、大規模言語モデル（LLM）と生成AIの進歩に支えられ、エンタープライズアプリケーションの不可欠な要素となっている。これらの技術は、より自由で自然なやりとりを促進するが、従来のアプリケーションガバナンス手法では対処できない新たなリスクや規制義務を発生させる。

　会話型AIアプリケーションの利用拡大は、エラーやバイアス、セキュリティ侵害、評判の低下といったリスクを高める。こうしたリスクと緊急性にもかかわらず、会話型AIのガバナンスを実現する明確な戦略や責任体制を欠いている企業が多い。Gartnerは、2028年までに企業の25％が、不十分なガバナンスやガードレール手法により、大きな混乱に見舞われ、ビジネスで損失を被る（こうむる）と予測している。

　会話型AIのリスクに効果的に対処するには、エンタープライズアプリケーションのリーダーが、コンプライアンスに準拠した安全なAIの実現に向けてガバナンスを構築し、責任を割り当て、実証されたフレームワークを用いて、ガードレールを維持する責任の管理とエスカレーションの仕組みを整える方法を理解することが重要だ。

会話型AIの部門横断的ガバナンスチームの設置

　会話型AIの効果的なガバナンスは、明確な責任と意思決定権限を持つ部門横断的チームを編成することから始まる。会話型AIエージェントは予測不可能な環境で動作し、新たなリスクをもたらす。そのためビジネスやIT、リスク管理、コンプライアンスの各チームが部門横断的に協力し、許容可能なAIの振る舞いを定義、強制し、モニタリングする必要がある。

　チームメンバーが決まったら、チームの任務と権限を明確にし、会話型AIに関連する問題に関する役割、責任、エスカレーション経路を具体的に定めなければならない。

　活動を調整するチームリーダーを任命するとともに、定期的な会議スケジュールを設定することも重要だ。この会議では、新たなユースケースの検討、インシデントの評価、リスクや規制の変化に応じたガードレール戦略の更新を行う。

　専任のガバナンスチームを置くことで、企業は会話型AIの取り組みをビジネス目標、規制要件、自社のリスク許容度と整合させられる。

会話型AIのガードレールポリシーの定義と周知

　会話型AIエージェントやアシスタントの振る舞いを統制するには、明確でアクセスしやすいポリシーが重要だ。従来のアプリケーションとは異なり、これらのシステムには、自由なやりとり、予測不可能なユーザー入力、変化するコンプライアンス基準に対応するガードレールが必要になる。

　Gartnerは、2027年までに大企業の80％が会話型AIエージェントやアシスタントに対して明確に定義され、再利用可能なガバナンス手法やガードレール手法を確立すると予測している。

　エンタープライズアプリケーションリーダーは、会話型AIアプリケーションに許容される振る舞いと許容されない振る舞いを明記したポリシーを策定しなければならない。このポリシーの内容はセキュリティやプライバシー、ビジネスポリシー、法的優先事項、倫理的利用、規制コンプライアンスを網羅している必要がある。

　これらのポリシーは、会話型AIの設計、デプロイ（展開）、運用に関わる社内チーム、ベンダー、パートナーに広く周知する必要がある。さらに、全てのステークホルダーがポリシーの期待事項を理解し、ビジネス、技術、規制の新たな動向に迅速に対応できるよう、ポリシーに関する研修を定期的に実施するとともに、ポリシーをタイムリーに更新することが不可欠だ。

適応型フレームワークを用いた運用責任の確立

　個々の会話型AIガードレールに対する明確な運用責任を割り当てることで、問題発生時の説明責任と迅速な対応が保証される。適応型フレームワークは、エンタープライズアプリケーションリーダーが各ガードレールやポリシー領域をその運用責任者（エンドユーザー、アプリケーション管理者、または専任リスク管理チーム）に対応付けるのに役立つ。

　また、リーダーはエスカレーション手順を定義し、必要に応じてエスカレーションを開始する方法を全てのチームメンバーとステークホルダーに周知する必要がある。運用責任の割り当てとエスカレーションに対する体系的なアプローチにより、見過ごされるガードレールがなくなり、説明責任が明確になり、インシデントが効率的に管理される。

　これらのベストプラクティスに従うことで、エンタープライズアプリケーションリーダーは、自社が規制要件を満たし、進化するリスクを管理し、自信を持ってビジネス成果を推進できる態勢を整えられる。

出典：Establishing Governance Practices for Conversational AI Agents and Assistants（Gartner）

※この記事は、2025年9月に執筆されたものです。