企業がAIモデルにAI TRiSMを組み込むべき4つの理由：Gartner Insights Pickup（349）

AIへのアクセスが民主化されたことで、AI TRiSMの必要性はさらに切迫している。AI TRiSMは、AIモデルのガバナンス、トラスト、公平性、リライアビリティ、堅牢性、透明性、データ保護をサポートする一連のソリューションだ。本稿では、企業がAI TRiSMをAIモデルに組み込むべき4つの理由を紹介する。

[Avivah Litan, Gartner]

印刷

通知 連載「％」の新着をメールで通知

鬯ｯ�ｮ�ｽ�ｫ鬩包ｽｨ郢ｧ謇假ｽｽ�ｽ�ｽ�ｹ髫ｴ雜｣�ｽ�｢�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽPost

Shareシェア

はてなブックマーク

SharePocket Button

ガートナーの米国本社発のオフィシャルサイト「Insights」などのグローバルコンテンツから、＠IT編集部が独自の視点で“読むべき記事”をピックアップして翻訳。グローバルのITトレンドを先取りし「今、何が起きているのか、起きようとしているのか」を展望する。

　生成AIがAI開発、運用の新たな展開への扉を開いたことで、堅牢（けんろう）なAI TRiSM（AIのトラスト／リスク／セキュリティ・マネジメント）の機能を実装することがますます急務となっている。AI TRiSMは、AIモデルのガバナンス、トラスト、公平性、リライアビリティ、堅牢性、透明性、データ保護をサポートする一連のソリューションだ。

　生成AIが火付け役となり、AIパイロットプロジェクトへの関心が広がっている。だが、企業は、AIモデルやアプリケーションが本番稼働や運用に入るまでリスクを考慮しないことが多い。AI TRiSMプログラムは、企業が強く求められているガバナンスをあらかじめ統合し、AIシステムのコンプライアンス、公平性、リライアビリティ、データプライバシー保護を、先手を打って確保するのに役立つ。

　AIへのアクセスが民主化されたことで、AI TRiSMの必要性はさらに切迫している。Gartnerは2026年までに、AIモデルの透明性や信頼性、セキュリティを継続的に実現する企業は、採用やビジネス目標、ユーザーによる受容について、50％の改善をもたらすことができると予測している。

　だが、AI TRiSMを実装することでメリットが得られるものの、こうした取り組みにあまり近くないCxO（Chief x Officer：最高責任者レベルの経営幹部）や取締役からは疑問視されることがある。以下では、企業がAI TRiSMをAIモデルに組み込むべき4つの理由を紹介する。AIリーダーはこれらをCxOや取締役に説明する際に活用できる。

生成AIとサードパーティーのAIツールがもたらすデータリスク

　生成AIは、多くの企業において競争や仕事のやり方を一変させている。生成AIアプリケーションに関連するリスクは重大であり、急速に深刻化している。ガードレールがなければ、どんなAIモデルもたちまち複合的な悪影響を及ぼし、それが管理し切れなくなり、AIによる好パフォーマンスや利益を覆い隠してしまうことがあり得る。

　企業はサードパーティープロバイダーのAIモデルやツールを統合するにつれて、それらのAIモデルのトレーニングに使用される大規模なデータセットも吸収していく。ユーザーは、他社のAIモデル内の機密データにアクセスしている可能性があり、企業にとっては規制上、商業上、風評上の影響が生じる可能性がある。ユーザーが、法的権利がないにもかかわらず、著作権で保護された資料にアクセスしている恐れもある。

AIモデルやアプリは常時監視する必要がある

　AIモデルやアプリケーションの運用に特別なリスク管理プロセスを統合し、AIがコンプライアンス、公平性、倫理を保つようにする必要がある。市場にはさまざまなソリューションがあるが、その多くは新興企業が提供している。顧客からの需要拡大に伴い、市場が次々に生まれているからだ。例えば、モデルやアプリケーションの開発から、テスト、デプロイ（展開）、継続的な運用まで、管理を継続しなければならない。

新しいツールには未知の脅威がつきまとう

　AIに対する悪意ある攻撃は（自前のAIへの攻撃も、サードパーティーモデルに組み込まれたAIへの攻撃も）、企業のさまざまな損害や損失（財務的な、風評的な、あるいは知的財産、個人情報、独自データに関連する）につながる。AIワークフローの堅牢性をテスト、検証し、向上させるために、他の種類のアプリの場合とは異なる特別な管理と施策を導入する必要がある。

規制によるコンプライアンス要件の確定が間近に

　EU（欧州連合）のAI法などの規制枠組みが、AIアプリケーションのリスクを管理する規制を既に確立しつつある。プライバシーの保護や、企業を好ましくない方向に導く恐れがあるハルシネーション（AIがもっともらしいが誤った回答を返すこと）の特定などに関連する規制で既に求められている要件にとどまらず、今後定められる規制上の義務に備える必要がある。

　AIリスクの首尾一貫した管理をしていない企業は、プロジェクトの失敗や中断といった不利益を被る傾向が格段に高まる。AIによる成果が不正確なもの、非倫理的なもの、または意図しないものとなった場合や、プロセスにミスがあった場合、攻撃者からの妨害が生じた場合などは、セキュリティ侵害や財務的、風評的な損失や法的責任の他、社会的損害を招く恐れがある。AIの誤作動も、ビジネス上の最適な意思決定を妨げかねない。

　AIモデルやアプリケーションのリライアビリティ、トラスト、セキュリティ、プライバシーを確保するには、AI TRiSMの機能が必要になる。これらの機能は、AIの導入、ビジネス目標の達成、ユーザーの支持獲得の成果を向上させる。AI TRiSMの原則を導入することで、アプリケーションのセキュリティとリスク管理プログラムを強化し、AIモデルの運用管理手法の成熟化に対応し、コンプライアンス課題にいち早く対処し、AIをより安全かつ確実に運用できる。

出典：4 reasons organizations should incorporate AI TRiSM into their AI models（Gartner）

※この記事は、2024年2月に執筆されたものです。

鬯ｩ謳ｾ�ｽ�ｵ�ｽ�ｽ�ｽ�ｺ鬯ｮ�ｦ�ｽ�ｮ髯ｷ�ｻ�ｽ�ｻ�ｽ�ｽ�ｽ�ｿ�ｽ�ｽ�ｽ�ｽ鬯ｯ�ｯ�ｽ�ｨ�ｽ�ｽ�ｽ�ｾ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�｣鬯ｯ�ｮ�ｽ�ｴ髣費ｿｽ�ｽ�･�ｽ�ｽ�ｽ�ｳ�ｽ�ｽ�ｽ�ｨ�ｽ�ｽ�ｽ�ｽ髯懶ｽ｣�ｽ�､�ｽ�ｽ�ｽ�ｸ�ｽ�ｽ�ｽ�ｲ鬯ｩ蠅捺��ｽ�ｿ�ｽ�ｽ�ｽ縺､ﾂ€�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�｣鬯ｯ�ｮ�ｽ�ｴ鬯ｩ蟶壽桶�ｽ�ｭ鬮ｮ�｣�ｽ�ｿ�ｽ�ｽ�ｽ�ｽ�ｽ�ｨ鬮ｯ蛹ｺ�ｻ繧托ｽｽ�ｿ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｺ鬮｣蛹�ｽｽ�ｵ髫ｴ謫ｾ�ｽ�ｴ�ｽ�ｽ隶難ｽ｣�守｢托ｽｭ雜｣�ｽ�｢�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｩ鬯ｩ蟷｢�ｽ�｢髫ｴ雜｣�ｽ�｢�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｼ鬯ｩ蟷｢�ｽ�｢髫ｴ荳ｻ�ｽ隶捺ｻゑｽｿ�ｽ邵ｺ�､�つ€鬯ｯ�ｮ�ｽ�ｦ�ｽ�ｽ�ｽ�ｪ鬩包ｽｶ闔ｨ�ｽ�ｽ�ｦ�ｽ�ｴ�ｽ縺､ﾂ€髯ｷ闌ｨ�ｽ�ｷ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｻ鬯ｯ�ｯ�ｽ�ｪ�ｽ�ｽ�ｽ�ｭ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｲ鬯ｩ謳ｾ�ｽ�ｵ�ｽ�ｽ�ｽ�ｺ鬮ｯ�ｷ�ｽ�ｷ�ｽ�ｽ�ｽ�ｶ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ�ｽ New

筆者　Avivah Litan

Distinguished VP Analyst