「ヒューマン・イン・ザ・ループ万能説」崩壊 AIエージェント時代に企業が迫られる“防御の再設計”：自律型AI時代の特権管理と運用の限界

AIエージェントが企業インフラを操作し、攻撃側もAIで侵入作業を分単位に圧縮する時代。従来の静的な権限管理や「人間が最後に承認すれば安全」という前提は崩れ去ろうとしています。NISTの最新提言と現場の脅威事例から、AI時代に求められる新たなセキュリティと防御の再設計を掘り下げます。

[＠IT]

　自律的に判断し業務を遂行する「AIエージェント」の急速な普及は、企業の生産性を高める一方で、サイバー攻撃の速度と高度化を極限まで押し上げています。

　あらかじめルールを定めて制御する従来の静的な管理や「最後は人間が確認すればいい」という安全策が通用しなくなる中、企業は権限管理や運用の思想を根本から問い直さなければなりません。

　AIエージェント時代に企業が直面する現実と、今すぐ着手すべき“防御の再設計”について最新の知見から掘り下げます。

RBACもままならないのに「もう古い」？ AI時代に迫られる権限管理の再設計

　ガートナージャパンの矢野薫氏（シニア ディレクター アナリスト）は以前、AIエージェント時代のセキュリティを「水のように柔軟に対応する」という表現で説明しました。

「データにストイック」になり「セマンティック」に捉える

　矢野氏は、従来のアクセス時間や送信先IPアドレスといった「メタデータ」頼みの監視には限界があると指摘します。AIが大量のデータを扱う環境では、人間基準の異常検知が成立しにくくなるためです。

　そこで必要になるのが、データや操作の背景にある意味を考える「セマンティック」な視点です。「誰が、どのようなビジネス目的でそのデータを扱おうとしているのか」という文脈まで含めてリスクを捉えることが不可欠になります。

「役職」と「ロール」の混同から脱却せよ

　日本企業の多くはRBAC（ロールベース・アクセス制御）の「ロール」を部署や役職などの属性と混同しています。本来のロールとは「売掛金を処理する」といった具体的な業務タスクを指すものであり、タスクレベルまで落とし込めていないことが運用の壁となっています。

常時権限を与えず「JIT（ジャストインタイム）」管理へ

　AIエージェントに最初から大きな権限を与えておくと、想定外の挙動をした際に被害が拡大します。そのため、静的なアクセス設定ではなく、必要な業務を行う瞬間だけ必要な権限を与える「JIT（ジャストインタイム）の権限管理」への移行が急務となります。

• 参考記事：RBACもままならないのに「もう古い」 AIエージェント時代に迫られる権限管理の再設計

2週間の侵入作業を10時間未満に圧縮 AIエージェント“フル活用”の攻撃の全貌

　権限管理の見直しが迫られる背景には、攻撃側によるAIエージェントの悪用が現実のものとなっている事実があります。Palo Alto Networksの「Unit 42」は2026年9月、AIをフル活用したサイバー侵入事案の調査結果を公表しました。

通常2週間かかる侵入プロセスを10時間未満で完了

　攻撃者は最先端のAIモデルと攻撃専用のAIエージェントを活用し、ネットワーク侵入後の自動偵察、コード保管庫からの認証情報抽出、権限奪取などを高度に自動化しました。

　50以上の「MITRE ATT&CK」手法を組み合わせ、「観測→判断→実行→再計画」のサイクルをマシンスピードで回すことで、通常2週間を要する攻撃工程を10時間未満に短縮させています。

侵入先のAIインフラを攻撃の計算資源として転用

　攻撃者は奪取した管理者権限を用いて、被害企業が保有するAIモデルのエンドポイントを不正利用しました。自らの攻撃活動を継続・拡張するための計算資源として、企業の社内AIインフラそのものを悪用していた点も極めて象徴的です。

• 参考記事：2週間の侵入作業を10時間未満に圧縮 AIエージェント“フル活用”の攻撃の全貌

AI攻撃の脅威は「これから数カ月」で変わる OpenAIらが共同声明

　AIによる攻撃の高速化を受け、AI開発の最前線に立つベンダー各社も強い危機感を表明しています。OpenAIは2026年8月、Microsoft、Google、AWS、Anthropicなど主要各社とともに「サイバー防御に向けた共同行動の呼びかけ」と題した公開書簡を発表しました。

「今後数カ月」で広範かつ高度化するサイバー攻撃

　公開書簡の中でOpenAIは、AIモデルの高度化に伴い「従来の防御策では不十分になる」と明言。「今後数カ月でAIを利用したサイバー攻撃がより広範かつ高度になる」とし、社会基盤が脅威にさらされる可能性を警告しました。

OpenAI自身も直面した「AIエージェントの制御不能」

　この共同声明の背景には、OpenAI自身が自社モデルの暴走を経験した現実があります。2026年7月、評価中だった同社のAIモデルが隔離環境を回避し、研究インフラやHugging Faceのシステムへ侵入するインシデントが発生しました。

　これを受けOpenAIは、サンドボックスの分離強化や推論過程の監視強化など、研究速度を犠牲にしてでも厳格な制御策を講じる方針を明らかにしています。

• 参考記事：AI攻撃の脅威は「これから数カ月」で変わる OpenAIらが共同声明

ヒューマン・イン・ザ・ループ万能説崩壊 NISTが提唱するAIエージェント運用のあるべき姿

　防御や運用の見直しが進む中、米国国立標準技術研究所（NIST）は2026年8月、AIエージェントに人間の資格情報を渡す安易な運用や、従来の安全策の限界について警告を発しました。

AIエージェントに「人間の権限」を委譲してはいけない

　利用者の資格情報をAIエージェントにそのまま共有させると、操作の実行主体があいまいになり、法務やプライバシー上の深刻な問題を引き起こします。また、長期間利用できるAPIキーや過剰な権限を与える運用も、漏えいや想定外の広範な操作につながるリスクがあります。

「承認疲労」で崩壊するヒューマン・イン・ザ・ループ（HITL）

　AIエージェントの暴走を防ぐために「最後は人間が確認して承認する（HITL）」という運用が一般的ですが、NISTはこれに強い疑問を呈しています。

　AIが大量の操作を実行し、頻繁に承認を求めるようになると、人間は内容を精査せず反射的に許可を出す「承認疲労（MFA疲労に類似）」に陥ります。結果として、人間による確認は防波堤として機能しなくなります。

事前承認された「flight plan」による動的な権限制御へ

　NISTは、都度人間に判断を仰ぐのではなく、あらかじめ許可する行動範囲（flight plan）を定義し、その範囲を逸脱した際にシステムが自動で停止する仕組みが必要だと提言しています。

• 参考記事：ヒューマン・イン・ザ・ループ万能説崩壊 NISTが提唱するAIエージェント運用のあるべき姿

「人間前提」のセキュリティを捨て、マシンスピードの防衛体系へ

　AIエージェントの進化は、攻撃と防御の双方に革命的な変化をもたらしました。攻撃側がAIで侵入を高速化させ、AIエージェント自身が予期せぬ行動をとる環境において、「人間の時間軸」や「役職ベースの静的なルール」「承認ボタンを押す人間」に頼る防衛線はすでに破綻しています。

　企業に求められているのは、ツール導入にとどまらない全社的なプロセスの再設計です。業務タスクを詳細に言語化し、AIエージェントにはJITによる権限や短命な最小権限のみを付与する。そして「flight plan」のように動的なポリシーで自動制御する体制を速やかに築くことこそが、AIエージェント時代を生き抜く唯一の道筋と言えます。