「人間がボトルネック」になる日は近い？ AI時代のサイバー攻防を読み解く4シナリオ：AIとサイバー攻防のダイナミクス

AIが脅威なのではない。AIに何を任せ、どこまで判断を委ねるのか――その選択がサイバー攻防の優劣を左右する時代が始まった。攻撃者と防御者は今、どちらが先に「AIを使う段階」から「AIに任せる段階」へ進むのか。その現在地と未来図を読み解く。

[村上純一（PwCコンサルティング合同会社），＠IT]

　2026年、サイバーセキュリティの世界では、AIの役割が「便利な補助ツール」から「判断と行動を担う主体」へと移り始めています。攻撃側では、生成AIが文章を作るだけでなく公開情報の収集や攻撃シナリオの作成、脆弱（ぜいじゃく）性情報の分析、悪用手順の組み立てまでを支援するようになっています。合成音声や映像は、本人確認や決済、取引先確認といった企業の信頼プロセスそのものを揺るがす手段になりつつあります。

　一方、防御側でもAIの導入は進んでいます。SOC（Security Operation Center）ではアラートの要約や優先度付け、調査手順の提示、初動対応案の生成にAIが使われ始めています。しかし、人間の承認なしに封じ込めなどの行動までAIに任せる組織はまだ限られています。つまり、問題は「AIを使うかどうか」ではありません。攻撃と防御のどちらが、どこまでAIに任せられるか。その差がサイバー攻防の力学を変え始めているのです。

　本連載「AIとサイバー攻防のダイナミクス」では、この構造変化を読み解くためのフレームワークを提示し、攻撃事例や防御の実践を交えながら、「AIをどこに導入すると効果的か」「どこまでAIに任せるべきか」「逆に人間の判断が不可欠な領域はどこか」を明らかにしていきます。初回となる今回は、連載全体を貫く「地図」を描きます。

あなたが本当に悩んでいるのは何？　AIとセキュリティの課題を整理

　AIとサイバーセキュリティの関係を整理するに当たって2つの軸を導入します。1つ目は「何のためか」です。ここでは、AIを使ってセキュリティ課題に対処する「AI for Cyber」と、AIそのものをセキュリティの対象として守る「Cyber for AI」に分けましょう。2つ目は「攻撃か防御か」です。この2軸を掛け合わせることで、以下の4象限が浮かび上がります。

AIとサイバーセキュリティの関係を整理する4象限フレームワーク（出典：PwCコンサルティングの資料を基に、アイティメディアで作成）

　左上は「AI for Cyber × 攻撃」です。AIを攻撃に活用する領域であり、パーソナライズされたフィッシング文面の生成や合成音声・映像によるなりすまし、脆弱性情報の分析、攻撃手順の作成、偽装シナリオの自動生成などが含まれます。ここで重要なのは、AIが攻撃者の要求スキルを引き下げるだけでなく、攻撃準備の速度と規模を押し上げる点です。

　右上は「AI for Cyber × 防御」です。AIを防御に活用する領域であり、アラートの要約や優先度付け、異常通信パターンの検知、インシデント調査の仮説生成、初動対応案の提示などが該当します。慢性的な人材不足に悩む防御側にとって、AI活用は選択肢ではなく、業務を持続可能にするための前提になりつつあります。

　PwCコンサルティングが実施する、サイバーセキュリティに関する年次調査「Global Digital Trust Insights 2026」では、サイバー防御へのAI実装を阻害する要因としてノウハウ・スキルのギャップが示され、今後の優先項目としてAIツール、セキュリティ自動化、スキルアップが挙げられています。

　左下は「Cyber for AI × 攻撃」です。AI自体を標的とする攻撃であり、プロンプトインジェクションや学習・参照データの汚染、モデルやプロンプトの窃取、RAGに取り込まれる情報の改ざん、AIエージェントに付与されたツール権限の悪用などが含まれます。企業がAIを業務システムや外部データ、APIと接続するほど、この象限のリスクは増大します。

　最後の右下は「Cyber for AI × 防御」です。AIを安全に運用するための対策であり、AIエージェントの権限管理や入出力の監視、プロンプトやツール呼び出しの制御、参照データの信頼性確認、モデル利用ログの監査、AIレッドチーミング、フェイルセーフ設計などが含まれます。AIの普及に伴い重要性は急速に高まっていますが、多くの組織では、AI活用のスピードにセキュリティとガバナンスの整備が追い付いていません。

　読者の方々が直面しているセキュリティ課題は、必ずこの4象限のいずれかに位置付けられます。新しい脅威情報やAI活用の提案に接した際にも、「これは4象限のどこの話か」と自問することで、守るべき対象や導入すべき対策、関与すべき部門が見えやすくなります。

AI×セキュリティの関係性はどうなる？　4つの将来シナリオで見る

　しかし同じ象限に位置する事象であっても、AIの関与の深さによって問題の性質は根本的に変わります。具体的には「using AI」、すなわちAIを使う段階と、「by AI」、すなわちAIに任せる段階の区別です。using AIでは、人間が目的を決め、AIは文面作成、要約、分類、分析候補の提示を支援します。一方でby AIでは、AIが一定の条件に基づき、自律的に判断し、次の行動を実行します。

　この違いは、単なる自動化の程度差ではありません。責任の所在やガバナンスの設計、リスクの質が変わります。AIが提示した結果を人間が確認して使うのと、AIが人間の承認なしに封じ込めやアクセス遮断をする場合では、許容できる誤りの範囲も、監査の粒度も異なります。攻撃側では、AIを使った探索や偽装、手順作成が進み、次第に攻撃ワークフローの自律化に近づいています。一方、防御側は誤検知による業務影響や説明責任を考慮せざるを得ず、AIにどこまで任せるかは慎重に判断せざるを得ません。

　では、この攻防のダイナミクスは、今後どのような世界を生み出すのでしょうか。この連載では、現在地から分岐し得る4つの将来的なシナリオを設定し、各回の分析を通じて、どのシナリオに向かいつつあるかを継続的に検討していきます。

4つの将来シナリオ（出典：PwCコンサルティングの資料を基に、アイティメディアで作成）

• シナリオA「軍拡競争」：攻守ともにAIが全面導入され、攻防速度が人間の判断速度を超える世界です。侵入や探索、横展開、偽装、封じ込めが機械速度で進み、人間の役割は戦略、倫理、例外処理、ガバナンスに特化します。勝敗は、AIモデルそのものだけでなく、データ、権限設計、監査、運用ルールの品質で決まります。
• シナリオB「攻撃者優位」：攻撃側のAI武装化が防御を上回る世界です。攻撃者はガバナンスの制約を受けにくく、偵察やなりすまし、脆弱性悪用、回避の速度を高めます。一方、防御側では人材不足や権限設計の未整備、承認プロセスの遅さがボトルネックになります。その結果、AI防御の恩恵を受ける前に、AIを使った攻撃の影響を受ける組織が増える恐れがあります。
• シナリオC「脆い平穏」：AI活用への幻滅や規制・社内統制の過剰化により、攻守ともに表面的には停滞する世界です。しかし公式な導入が進まない一方で、現場では未承認のAI利用やシャドーAIが広がる可能性があります。一見安定して見えても、可視化されないAI利用が新たな攻撃面を生み、技術的なブレークスルーや大規模な悪用を契機に、シナリオAまたはBに急変し得る不安定さを内包します。
• シナリオD「防御者優位」：AIセキュリティ・ガバナンスが標準化され、防御の恩恵が広く行き渡る世界です。ここで重要なのは、プロンプトインジェクションなどのリスクを単一の対策で消し去ることではありません。権限分離や最小権限、監査、検証、フェイルセーフを組み合わせ、AIの失敗を前提に被害を局所化できる設計を作ることです。

　では、私たちは今どこにいるのでしょうか。2026年時点の現在地は、シナリオAの入口に立ちながら、シナリオBへの圧力が強まっている状態だと考えられます。さまざまな公的機関の脅威分析では、脅威グループが既存の手法を再利用しながら新たな攻撃モデルを取り入れ、脆弱性悪用やインフラへの攻撃を継続していることが示されています。また、米国国立標準技術研究所（NIST）の「AIリスクマネジメントフレームワーク」（NIST AI RMF）や「サイバーAIプロファイル」（Cyber AI Profile）が示すように、AIを安全に活用するには、技術だけでなく、統治や測定、管理、監査の仕組みが必要です。

　一方で組織側の準備は十分とは言い切れません。Global Digital Trust Insights 2026では、AIの運用を可能にし、複雑な環境を守る取り組みが進む一方、人材不足やスキルギャップが課題として示されています。つまり、防御側はAIを導入し始めているものの、AIに高い自律性を与えるためのガバナンス、権限管理、説明責任、運用設計は発展途上です。この非対称性が解消されなければ、防御におけるHuman-in-the-Loop（HITL、人間が制御ループの中にいること）がボトルネックとなり、攻撃側に引き離されるリスクが高まります。

本連載の見取り図

　次回以降、本連載ではこのテーマを段階的に掘り下げていきます。第2回では、攻撃側に焦点を当て、「Attack using AI」から「Attack by AI」への進化が、どのような脅威アクターや攻撃プロセスで進んでいるのかを考察します。重要なのは、AIが攻撃者を置き換えるかどうかではなく、攻撃の準備や実行、継続、回避のどこにAIが入り込み、どこから自律性が高まるのかです。

　第3回以降では、防御側に目を転じます。サイバーセキュリティ業務を、AIとの親和性に基づいて、幾つかのグループに分類し、各領域の概要や今後の展望、AI化が進んだ場合に顕在化する固有の課題を順次解説していきます。AIに完全に任せるべき領域、人間との協働が不可欠な領域、そして人間が主導し続けるべき領域。その線引きを、具体的な業務の文脈で考察・模索します。

　各回の分析を通じて、冒頭に掲げた4つのシナリオのうち、どれが強まり、どれが弱まっているのかを継続的に考察していきます。読者の皆さんが自組織のセキュリティ体制を見直し、AIと人間の最適なバランスを設計するための羅針盤となることを目指します。次回は、AIが攻撃者の手に渡った時に何が起きるのか。その具体的な脅威の姿を、個別事案ではなく攻撃プロセスの変化として読み解いていきましょう。

筆者紹介：村上純一（むらかみ・じゅんいち）

PwCコンサルティング合同会社　パートナー

国内大手セキュリティベンダーでマルウェアの収集・分析などに関する研究開発、脅威分析、脆弱性診断、トレーニングなどの業務に従事。その後、国産セキュリティベンダーに参画し、執行役員として基礎技術開発、製品開発、各種セキュリティサービス提供、事業経営などに携わり株式上場を経験。また、サイバーセキュリティ領域における各種外部委員活動の他、Black Hat、PacSec、AVARなどの国際会議での研究発表も手掛けている。グローバルレベルでのサイバー攻撃の手法や主体など脅威動向の把握から企業対応までを専門分野にしている。