「AIエージェントはモデルだけじゃない」 NVIDIAらが説く“エージェント防御”の勘所と共有の仕組み：120を超える組織が参加するOpen Secure AI Alliance

Linux Foundationは、エージェント型AIのセキュリティインシデントを業界で共有するためのガイドライン「SAFE」について意見募集を始めた。NVIDIAやCisco、CrowdStrikeなどが初期案の作成に参加している。

[＠IT]

　NVIDIAは2026年8月4日（米国時間）、Linux Foundationが「SAFE（Shared AI Findings Exchange）」に関する意見募集を公開したことを、同社ブログで明らかにした。SAFEは、エージェント型AIのセキュリティインシデントをエコシステム全体の防御に転換することを狙ったガイドライン群の提案だ。業界団体Open Secure AI Alliance（OSAIA）のワーキンググループが草案を作成している。

　OSAIAの参加組織は120を超える。公表は、年次セキュリティカンファレンス「Black Hat」が米国ラスベガスで開幕する日に合わせて行われた。初期案にはNVIDIA、Cisco Systems（以下、Cisco）、CrowdStrike、Hugging Face、Red HatなどのOSAIA会員が、Linux Foundationと共に関わっている。

エージェントによるインシデントを共有するためのガイドライン

　SAFEのガイドラインには、次のような提案が含まれる。AIのインシデントとニアミスを秘匿性を保ったまま収集、分析すること。影響を受けた当事者に通知すること。繰り返し発生している制御の不備を特定すること。システミックリスクを低減する証拠に基づいた運用上の推奨事項を公開することの4点だ。

　NVIDIAは、大きな技術転換のたびに新たな攻撃対象領域が生まれてきたとして、防御側はインフラや知的財産を守るためにエージェントの速度で動く必要があり、最善の方法は協働だとする。信頼できるエコシステムが脅威インテリジェンスをオープンに共有すれば、集団防御が力の増幅装置になると述べている。

Open Secure AI Allianceの参加組織（提供：NVIDIA）

AIエージェントはモデルだけではない

　SAFEは、OSAIA会員が進めている技術面の貢献に加わるものだ。NVIDIAは「AIエージェントは単なるモデルではない。ID制御、ハーネス、ガードレール（安全対策）、ログ、評価から成るシステムで、その保護には脆弱（ぜいじゃく）性スキャン以上のものが必要だ」とする。

　NVIDIA自身は、エージェントの挙動をテストする研究用ハーネス「NVIDIA Labs Object-Oriented Agent」（NOOA）、AIエージェントを安全に実行、管理するためのセキュリティランタイム「NVIDIA OpenShell」、プログラム可能なガードレール「NeMo Guardrails」などのツール群、脆弱性スキャナー「Garak」を提供している。

　エージェント型AI向けの「NVIDIA Nemotron」やフィジカルAI向けの「NVIDIA Cosmos」といったオープンなモデルファミリーも、重みやデータセット、トレーニング手法とともに公開している。

OSAIA会員各社もスタックの各層で公開を進める

　OSAIAの他の会員も、IDと権限、ハーネス、ランタイムのガードレール、セキュリティ向けAIモデル、可観測性と評価、可用性と回復力にまたがって開発を進めている。主な例は次の通り。

IDと権限

　Oktaはオープンプロトコル「Cross App Access」（XAA）を使い、エージェントが安全に企業アプリケーションに接続する実装例を開発している。

　Palo Alto Networksはアイデンティティーセキュリティプラットフォーム「Idira」から、「Agent Guard」「Agent Watch」といったオープンソースソフトウェア（以下、OSS）ツールを提供している。

　Red HatはNIST（米国国立標準技術研究所）やOWASP（Open Worldwide Application Security Project）、EU AI法の要件をエージェント実行時の制御に対応付ける「asago」を公開した。

ハーネスとツール

　新たにOSAIAに加わったAmazon.comは、オープンなAIエージェント構築のためのOSSツールキット「Strands Agents」と認証言語「Cedar」を提供。同じく新会員のVisaは「Visa Vulnerability Agentic Harness」を提供している。

　Microsoft AI Red Teamは、自動化された疑似攻撃を実行できる「PyRIT」など複数を公開し、Capital One、Cloudflare、Wizも脆弱性の発見や検証を担うツールを出している。

防御向けモデルとランタイム

　Ciscoはランタイムでの統制を担う「DefenseClaw」と、既知の脆弱性の位置を特定するセキュリティ小規模言語モデル（SLM）「Antares」を公開。デフォルト（既定）で安全なプラクティスをAIコーディングワークフローに直接組み込むための「Project CodeGuard」もリリースしている。

　CrowdStrikeは「NVIDIA Nemotron Nano」をサイバー防御向けにファインチューニングし、社内テストで調査クエリ生成の精度96％を達成している。Mistralは、マルチモーダルの安全性分類モデル「Shieldstral」を、Apache 2.0のオープンウェイトモデルとして公開した。

オブザーバビリティー（可観測性）と可用性

　Uberは、プロンプトから推論、ツール呼び出し、結果までの因果の連鎖を再構成する「ADR（Agentic AI Detection and Response）」の主要なコンポーネントをオープンソース化した。3万台のエンドポイントで1日当たり20万件を超えるエージェントセッションに対応している。

　この他、Akamai、CognitionAI、Perplexity、LangChain、Veeamが、脅威の分析や評価、検知、復旧の仕組みを提供している。

　NVIDIAは、OSAIA会員が再利用可能な緩和策を公開すれば、エコシステム全体の防御側がそれを検査し、適応させ、改善できるとして、AIの進展に合わせてセキュリティの実践も進化していくと説明している。