クラウドAIを信頼できないのは“中身が分からない”から？ ならば「AIインフラ」を自作して検証しよう：「中で何が起きているか分からない」からこそ検証を――IPAが報告書（1/2 ページ）

企業がクラウドAIの利用を禁止・制限する背景には、「中で何が起きているか分からない」という不信があるのではないか――。IPAはこの仮説を確かめるために、AIインフラを構築して検証した。どのように進めたのか。

[＠IT]

　独立行政法人情報処理推進機構（以下、IPA）は2026年8月31日、「信頼できるAI基盤の実証 ― オフライン閉域環境でAIは組織の右腕になれるか ―」を公開した。IPAのセキュリティ対策拠点である産業サイバーセキュリティセンター（以下、ICSCoE）の、中核人材育成プログラム第9期生による卒業プロジェクト（以下、同プロジェクト）の成果報告書だ。オフライン閉域環境におけるAIインフラ（AIを稼働させ、管理するためのITインフラ）の構築と検証の結果をまとめている。

「分からない」ことが信頼の欠如を生む

　企業の間ではクラウドサービス形式のAIツール（以下、クラウドAI）の活用が進む一方、情報漏えいや誤情報の懸念から、クラウドAIの利用を禁止または制限する企業もある。過度な制限は企業の統制が及ばない「シャドーAI」の温床となり、新しいセキュリティリスクを招きかねない。

　クラウドAIの利用禁止や制限が起こる背景について、同プロジェクトはクラウドAIに対する信頼を左右する要素に注目した。企業にとって、クラウドAIは「危険だから信頼できない」のではなく、「内部で何が起きているかが分からないから信頼できない」のではないか――。同プロジェクトは、こうした問いを立てた。

　一般的なクラウドAIでは、クラウドベンダーはAIモデルの内部構造や学習データ、運用体制の全てをユーザー企業に開示しているわけではない。ユーザー企業から見れば、自社の重要データを預けるクラウドサービスでありながら、内部動作や安全性を自社だけで監査・検証することが難しい「統制の空白地帯」になる。

「AIインフラ」を自作？　どんな構成で、どう検証したのか

　クラウドAIを適切に評価し、安全に活用するために、企業における「信頼できるAI」に向けた考え方や評価の観点とは何なのか――。この問いを検証するために、同プロジェクトはクラウドAIを外部から評価するのではなく、実際にAIインフラを構築し、その構成要素を横断的に検証することにした。AIインフラをどう構築し、どう検証を進めたのか。

　同プロジェクトは、リユースサーバとオープンソースソフトウェア（以下、OSS）を中心に、実際にAIインフラを構築した。AIインフラの設計には独自に定めた設計指針「ICS-XAF」（ICSCoE AI eXtendable Architecture Framework）を採用し、21件のテストシナリオを通じて、その有効性と技術的な限界を検証した。

　ハードウェアには、生成AI開発で広く使われるハイエンドGPU搭載サーバではなく、リユース品であるIntel製CPU「Xeon」搭載サーバを採用した。限られた計算資源と、GPUを使えない制約の下で、AIインフラをどこまで実現できるかを検証するためだ。

　AIインフラの設計に当たっては、企業がシステムの挙動を把握・制御できる「コントロール可能性」と、外部環境の遮断や悪意ある入力に耐える「コンテキスト耐性」という2つの評価軸から、信頼できるAIインフラの満たすべき要件を定義した。ICS-XAFは、この要件を満たすOSS技術を選定して組み合わせたものだ。

　安全性評価では、改ざん検知ツール「AIDE」やソフトウェア部品表（SBOM）ツール、セキュリティ監査ツール「Lynis」を組み合わせて、サーバのOSやシステム設定を対象とした多層的な監査体制を敷いた。加えてGoogleのAIエージェント型開発ツール「Google Antigravity」で生成したソースコードのセキュリティ監査も実施した。AIインフラ内部に介在するソフトウェアコンポーネントの透明性を高めることで、サプライチェーンリスクを評価・管理できるようにした。