企業がAIモデルにAI TRiSMを組み込むべき4つの理由：Gartner Insights Pickup（349）

AIへのアクセスが民主化されたことで、AI TRiSMの必要性はさらに切迫している。AI TRiSMは、AIモデルのガバナンス、トラスト、公平性、リライアビリティ、堅牢性、透明性、データ保護をサポートする一連のソリューションだ。本稿では、企業がAI TRiSMをAIモデルに組み込むべき4つの理由を紹介する。

[Avivah Litan, Gartner]

ガートナーの米国本社発のオフィシャルサイト「Insights」などのグローバルコンテンツから、＠IT編集部が独自の視点で“読むべき記事”をピックアップして翻訳。グローバルのITトレンドを先取りし「今、何が起きているのか、起きようとしているのか」を展望する。

　生成AIがAI開発、運用の新たな展開への扉を開いたことで、堅牢（けんろう）なAI TRiSM（AIのトラスト／リスク／セキュリティ・マネジメント）の機能を実装することがますます急務となっている。AI TRiSMは、AIモデルのガバナンス、トラスト、公平性、リライアビリティ、堅牢性、透明性、データ保護をサポートする一連のソリューションだ。

　生成AIが火付け役となり、AIパイロットプロジェクトへの関心が広がっている。だが、企業は、AIモデルやアプリケーションが本番稼働や運用に入るまでリスクを考慮しないことが多い。AI TRiSMプログラムは、企業が強く求められているガバナンスをあらかじめ統合し、AIシステムのコンプライアンス、公平性、リライアビリティ、データプライバシー保護を、先手を打って確保するのに役立つ。

　AIへのアクセスが民主化されたことで、AI TRiSMの必要性はさらに切迫している。Gartnerは2026年までに、AIモデルの透明性や信頼性、セキュリティを継続的に実現する企業は、採用やビジネス目標、ユーザーによる受容について、50％の改善をもたらすことができると予測している。

　だが、AI TRiSMを実装することでメリットが得られるものの、こうした取り組みにあまり近くないCxO（Chief x Officer：最高責任者レベルの経営幹部）や取締役からは疑問視されることがある。以下では、企業がAI TRiSMをAIモデルに組み込むべき4つの理由を紹介する。AIリーダーはこれらをCxOや取締役に説明する際に活用できる。

生成AIとサードパーティーのAIツールがもたらすデータリスク