AIへの入力内容をプロンプト単位で監視 セキュリティを犠牲にせずにAI活用促進は可能か?:Cloudflareがセキュリティ製品に“生成AIの安全利用機能”を追加
Cloudflareは、同社のセキュリティ製品「Cloudflare One」に、生成AIの利用を監視したり制御したりする機能を追加した。生成AIの導入に伴うリスクを管理し、安全利用につなげられるという。
Cloudflareは2025年8月25日(米国時間)、ゼロトラストセキュリティの考え方を基にしたセキュリティ製品「Cloudflare One」に生成AI(人工知能)に関する新機能を追加した。同社は、「生成AIを無許可で業務利用する『シャドーAI』や機密データの誤送信といったリスクを減らせる」としている。
生成AI活用とセキュリティ、どうやって両立させる?
近年、財務やマーケティング、エンジニアリングなど企業は幅広い部門に生成AIを取り入れている。だが、「従業員が誤って機密データをチャットbotに入力したり、セキュリティ部門の承認なしにAIツールを展開したりするリスクがある」とCloudflareは指摘する。
Cloudflare Oneは、企業ネットワークやクラウドサービス、テレワークをしている従業員の端末の通信を監視し、アクセスを制御する。これによって、「システムの利用形態や従業員の勤務場所を問わず、一貫したセキュリティと可視化を実現する」と同社は述べている。
今回追加された新機能は以下の4つだ。
AI使用状況の可視化
「シャドーAIレポート」を作成し、どのユーザーがどのAIツールにアクセスしているかを把握できる。
シャドーAIからの保護
同社のWebゲートウェイ「Cloudflare Gateway」を通じてAIポリシーを自動適用し、未承認のAIツールをブロックしたり、AIツールにアップロードするデータの種類を制限したりできる。
機密データ保護
「AI Prompt Protection」機能によって、AIへの入力内容をプロンプト単位で監視し、ソースコードなど機密データ送信を警告またはブロックする。
AIモデルとの対話を可視化
「Zero Trust MCP Server Control」により、AIモデルと外部ツール間のやりとりを一元的に監視し、セキュリティポリシーを適用しやすくする。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
関連記事
新入社員の78.3%が生成AI活用経験者に 企業はどう向き合うべきか
産業能率大学総合研究所が新入社員を対象にした調査によると、78.3%が生成AIを活用した経験があるという。企業が生成AI活用を推進するか否かにかかわらず、デジタルネイティブな若手従業員ほど自律的に生成AIを使い始めつつある。だが、生成AIの活用を禁止すれば、業務効率化やイノベーションを阻害するリスクにもなりかねない。どう向き合うべきなのか。「シャドーIT」ならぬ「シャドーAI」が課題に Netskopeが生成AI利用の実態調査の結果を発表
Netskopeは「クラウドと脅威レポート」の2025年版を発表した。業務の中で、企業での生成AI利用が拡大している一方、未承認で生成AIを業務利用する「シャドーAI」が課題になっているという。シャドーAI問題への対処による安全なイノベーションの確保
AIの職場導入が急速に進む一方で、企業の承認を経ずに使われる「シャドーAI」が深刻なリスクをもたらしている。機密情報の漏えいやセキュリティ違反を引き起こす恐れがあり、CISOはその監視と管理が急務だ。本稿では、シャドーAIの実態と企業が取るべき対策について解説する。