【マネしないで】AIが暴走してやらかす“3つの主要パターン”を解説：【動画あり】

AIエージェントの外部企業への侵入事案が話題だ。OpenAIは直近数カ月でHugging Faceやオーストラリア政府といった複数の組織にAIエージェントが侵入したと認めている。一体なぜAIは暴走するのか？　3つのよくある暴走パターンを実演する。

» 2026年09月25日 15時00分公開

[＠IT]

　2026年7月に発生したOpenAIのAIエージェントによる「Hugging Face」への侵入事案は、AIエージェントが人間の制御を超えて“暴走”する可能性があることを広く世間に知らしめた。

　そして直近の2026年9月には、同じくOpenAIのAIエージェントがオーストラリアの国民健康保険制度の統計ポータルサイトに不正アクセスしたことが分かった。

　では、一体なぜAIは暴走するのか。これを防ぐためにはどうすればいいのか。

　アイティメディアが運営する「YouTube」チャンネル「TechLIVE」では攻撃者視点の理解を深める番組『攻撃者の目』を公開している。

　今回は、世界のハッキング大会で好成績を残し、バグバウンティでも日本有数の実績を持つIkotas Labs代表の辻知希氏をゲストに、AIがなぜ暴走するのか、具体的にどのように暴走するケースがあるのかを“実演”しながら解説する。

【暴走AI】気付けば攻撃者に？！　あなたは制御できる？　AI暴走3パターンを実演

「CTFはAIによって終わりました」　現役ハッカーが見た「人間の敗北」
「もうAIに勝てる人間はほとんどいない」。CTFは競技として崩壊し、脆弱性探索は“パチンコ”と化し、CVEの所持は何の実績にもならなくなった。日本有数の実績を持つ現役ハッカーが語る、AIの華々しい性能向上の裏にある負の側面とは。
Claude暴走、企業に侵入　AnthropicとOpenAIの事例から学ぶ3つの教訓
AIエージェントは人間の指示通りに動くだけの存在ではない。OpenAIとAnthropicは、それぞれのAIモデルが評価環境を飛び出し、外部インフラに自律的にアクセスしたインシデントを相次いで公表した。両事例から見えた教訓とは。
信頼崩壊　“政府公認”さくらインターネット　最大136万件情報漏れの穴を分析
さくらインターネットで発生した不正アクセス被害。最大136万アカウントに影響が及ぶ可能性があるこの被害はなぜ起きたのか？　日本ハッカー協会代表理事の杉浦隆幸氏と共に解き明かす。
「ハッキングコンテストはAIによって終わった」ゼロデイ発見が激変　迫られる“防御の再設計”
ハッキングコンテストはAIに敗れ、脆弱性管理は「パッチパンデミック」に陥り、AIエージェントは暴走して企業インフラに侵入。企業はAIエージェント時代の脆弱性管理をどう再設計すべきでしょうか。