生成AI活用を進める企業に向けて、安心安全な開発・利用・運用の“当たり前”を作る

生成AIやAIエージェントが企業の業務現場へ急速に浸透する一方で、セキュリティ対策は依然として後手に回りがちだ。「まず使ってみよう」という熱気が先行する中、シャドーAIの把握、AIモデルの脆弱性解消、AI利用ルールの策定と順守担保など、「安全に使う」ための土台づくりが追い付いていないのが実情だ。Cisco製品を中核に顧客のセキュリティ課題に伴走するエクシオ・デジタルソリューションズに、安全やガバナンスを確保しながらAIの利用を前進させるためのアプローチを聞いた。

PR／＠IT

PR

AIセキュリティを脅かす3つの課題

　2022年末ごろに「ChatGPT」が登場してから約3年半が過ぎた現在、生成AIを業務に利用する機運はさらに高まっている。ただ、その取り組みの多くが「まず使ってみる」ことからスタートしており、「いかに安全に使うか」には、あまり目が行き届いていないのが実情だ。

　一方、IPA（情報処理推進機構）が毎年発表している「情報セキュリティ10大脅威」（組織編）の2026年版では、初選出の「AIの利用をめぐるサイバーリスク」がいきなり3位にランクインするなど、懸念は確実に現実化している。

　エクシオグループの渡邊浩平氏は、AIがセキュリティを脅かす要因として、次の3つの課題を挙げる。

　1つ目は「シャドーAI」だ。従業員が会社で許可されていない生成AIサービスを無断で使っているケースが少なからず存在すると思われる中、誰がどんなAIサービスを使っているかが把握できなければ、情報漏えいなどのリスクにつながりかねない。

　2つ目は「AIモデルへの侵害」である。AIモデルを独自に開発・チューニングする企業も存在するが、AIモデル自体に潜在する脆弱（ぜいじゃく）性や仕込まれた悪性コードが、情報侵害や漏えいにつながる恐れがある。「『Hugging Face』のようなプラットフォームを使えば、誰でも自由にAIモデルをアップロード・ダウンロードできてしまうため、管理が手薄になります」と渡邊氏は説明する。

　3つ目は「AIガバナンスの未整備」。「単にルールを作るだけではなく、それを確実に守らせるための仕組み（ポリシー、監視、教育、運用）が必要です」と渡邊氏は強調する。

エクシオグループの渡邊浩平氏（ソリューション事業本部 デジタルコンサルティング本部 兼 サイバーセキュリティ統括部 担当課長／エクシオ・デジタルソリューションズ 兼務）

　さらに、同社のデジタルコンサルティング本部の担当課長 井出正敏氏が指摘するのが、新たに利用が拡大しつつあるAIエージェント特有のセキュリティリスクだ。生成AIがプロンプト（指示）に対して「回答を返す」ものであるのに対し、AIエージェントは「自律的にアクションを実行する」点で、リスクの性質が根本的に異なる。

　「仮に生成AIがハルシネーションを起こしたとしても、ユーザーが回答の間違いに気づけば止められます。しかしAIエージェントは勝手に動くだけに、取り返しのつかないリスクが生じる場合があります。機密情報へのアクセスやポリシー違反の操作など、人間なら避ける行動を取らないように、しっかり監視・制御しなければなりません」（井出氏）

　渡邊氏はこのリスクを日本全体の縮図と捉えており、「多くの企業は、『取りあえず大丈夫だろう』という感覚でAIを使い始めているのではないでしょうか。日本ではまだAIの隙を突いた大きな事故が起きていないために油断があると思います」と警鐘を鳴らす。

エクシオグループの井出正敏氏（ソリューション事業本部 デジタルコンサルティング本部 担当課長／エクシオ・デジタルソリューションズ 兼務）

Cisco Secure AccessでSASE/SSEの実績を積む

　上記のようなAIセキュリティの課題解決に向けて、エクシオグループはコンサルティングやITインフラ支援などを包括的に提供するオファリングサービス「EX-LIGN」（エクスライン）を2026年4月にリリースした。この取り組みで中核を担うのが、2022年に設立されたエクシオ・デジタルソリューションズ（EDS）だ。取り組みの原点は、2024年度からのR&D（研究開発）活動にさかのぼる。

　「社内業務の効率化を目的としたAIチャットやAIエージェントの開発に着手したのですが、当初は私たちも『クローズド環境でLLM（大規模言語モデル）を運用しているのだから、入力データが再学習されて第三者へ流出する危険はないだろう』という認識がありました。しかし、『本当に安全と言い切れるのか』という懸念からセキュリティを検証・対策するサブワーキンググループを立ち上げました」（井出氏）

　この約2年間にわたる活動から得た知見をグループ外の幅広い企業にも提供していこうとしているのだ。

　「従前から注力してきた『Cisco Secure Access』を中核としたSASE（Secure Access Service Edge）/SSE（Security Service Edge）ソリューションにプラスアルファする形で、AIセキュリティの課題解決に関するビジネスメニュー化も視野に入れています」（渡邊氏）

　実際、SASE/SSEに関してEDSは、着実に実績を積んできた。ある教育委員会向けのSSE導入案件では、複数製品のフラットな比較評価を経てEDSの提案したCisco Secure Accessが選定された。

　「既存のネットワーク設計やグローバルIPの扱いなど、現行運用を大きく変えずにSSEに移行したいという要望があり、クラウド型SWG（Secure Web Gateway）としての機能網羅性に加え、国内リージョン構成による高い可用性や、障害時にも業務継続を可能にする設計面が評価されたと受け止めています。加えて、長年にわたる通信インフラ構築ベンダーとしてのエクシオグループの実績や、脅威インテリジェンスの『Cisco Talos』を擁するCisco Systems（以下、Cisco）のセキュリティへの信頼性にも高い評価をいただきました」（井出氏）

　EDSは引き続き、全国の自治体や教育委員会を中心として、SASE/SSEソリューションの商談・提案を加速させている。

Cisco AI Defenseで「使う」「作る」の両面でセキュリティを守る

　Cisco Secure Accessを中核としたSASE/ SSEに加え、EDSは具体的にどのような形でAIセキュリティへのアプローチを進めていこうとしているのだろうか。

　Cisco Secure Accessには、生成AIへの不適切な情報入出力を制御するAI Security機能が搭載されており、シャドーAIの可視化やサプライチェーンリスクの検出も可能だ。この機能は生成AIを「安全に使う」環境を構築するために特に有効で、EDSとしても最大限に活用する考えである。

　「ユーザーがどのパブリックLLM（ChatGPT、Copilot、Gemini、Claudeなど）を利用しているかを可視化でき、リスクスコアに基づいたブロックや新たなポリシー適用が可能です。前述したTalosをはじめ、Ciscoの定評のあるアルゴリズムでスコアリングされている点も大きな強みです」（井出氏）

　加えて新たに取り組んでいるのが、「Cisco AI Defense」の活用だ。生成AIを「使う側」と「作る側」の両面で安全に運用するための包括的なAIセキュリティプラットフォームだ。自社開発したAIモデルやアプリケーションの脆弱性を検出し、リアルタイムで防御する「ガードレール」を提供することで、AI活用に伴う情報漏えいや敵対的攻撃、設定不備などのリスクを軽減する。

　「内製開発したAIモデルは、たとえセキュリティを確保した状態でリリースしたとしても、チューニングやさまざまな機能追加を重ねるうちにセキュリティレベルが低下することがよくあります。従ってAIモデルの脆弱性診断も一度だけで終わるのではなく、定期的に実施することが重要です。Cisco AI Defenseはそうした継続的な定期点検をサポートします」（井出氏）

導入〜運用の壁を越える伴走型コンサルが基本姿勢

　その上でEDSの強みになっているのが、製品を売って終わりではない伴走型のコンサルティング体制だ。

　「私たちは常にお客さまに寄り添うことを基本姿勢とし、何を売り込むかではなく、課題をどう解決できるかというアプローチを大切にしています。そこでCisco製品が役立つと判断したときに、はじめて提案するという順序になります」（渡邊氏）

　セキュリティ担当者の人材不足という業界全体の課題にも、EDSはツール導入にとどまらないトータルサポートで応えようとしている。

　「情シス担当者が目の前のアラート対応に追われ、本来のロードマップを描けていないケースが多く散見されます。AIセキュリティ／ガバナンスに関するソリューションもまさに導入してからが本番であり、そこをしっかり支えられる存在であり続けたいと考えています」（井出氏）

　このビジネス戦略の後ろ盾として、ディストリビューターであるネットワンパートナーズ（NOP）との緊密な連携も大きな力になっている。

　「かつては『米国ではやったテクノロジーが5年後に日本ではやる』と言われたものですが、AI時代を迎えた現在、このタイムラグは大幅に縮まっています。私たち自身も最新の情報を定点観測し続けることが重要であり、NOPとの連携から新たな気付きやヒントを得ることが数多くあります」（渡邊氏）

　ポスト量子暗号に関するソリューションもすでに視野に入れているという。量子技術の進化に伴い既存の方式に基づく暗号が解読可能となるリスクが現実味を帯びる中で、新たな暗号アルゴリズムを用いたセキュリティの展開が中長期的な注力テーマになると捉えている。

　こうしたEDSの将来展望からも、変化の速いテクノロジー市場を先導しようという強い意志が見て取れる。「サイバー攻撃前の予兆検知から、実際に攻撃を受けた際の重要リソースの隔離、被害の極小化、迅速な復旧まで、セキュリティ対策を点ではなく面で支えていくお客さまのパートナーを目指します」と、渡邊氏は訴求する。

※本稿は、ネットワンパートナーズからの寄稿記事を再構成したものです。