クラウドAIを信頼できないのは“中身が分からない”から？ ならば「AIインフラ」を自作して検証しよう：「中で何が起きているか分からない」からこそ検証を――IPAが報告書（2/2 ページ）

企業がクラウドAIの利用を禁止・制限する背景には、「中で何が起きているか分からない」という不信があるのではないか――。IPAはこの仮説を確かめるために、AIインフラを構築して検証した。どのように進めたのか。

[＠IT]

21シナリオで検証、クラウドAIとも比較

　同プロジェクトは、「TC-01」から「TC-21」（TCはテストケースの略）までの21件の具体的なテストシナリオを実行し、システム要件の充足状況と技術的な限界を検証した。併せて米国立標準技術研究所（NIST）の「AIリスクマネジメントフレームワーク」（AI RMF）や英政府（Government Office for Science）の政策立案手法「Futures Toolkit」、AIマネジメントシステムの標準規格「ISO/IEC 42001」といった国際的なリスク管理手法・規格を用いて、AI活用に伴うリスクや組織的な課題を整理した。

　セキュリティの基本要素である機密性と完全性、可用性（CIA）の観点から、今回構築したAIインフラと、一般的なクラウドAIとの比較評価も実施した。同プロジェクトは報告書で、企業がAIインフラの構成要素を自社で把握・管理することで、機密性と完全性を統制しやすくなる利点を示した。

　画像・音声生成では、AIインフラでの多段階フィルタリングによって、危険物や不適切な画像の生成を抑止できた。一方で実在人物とうり二つの画像の生成や、音声のなりすまし（ボイスクローン）を完全には防げず、運用面での対策が必要になるといった技術的な限界も明らかになったという。

　報告書は全6章と付録A〜Iで構成されている。同プロジェクトのメンバーは、自社主導でAIガバナンスを構築・運用しようとする技術者や管理者、経営層にとって、今回の報告書が参考になることを期待する。