「AIが答えたURL」も信用できない 公式サイトや警察まで偽装する新たな詐欺：「目視」でどうこうなるレベルじゃない（2/2 ページ）

[＠IT]

まるで本物？　架空の捜査員による取り調べ

　金融機関による水際対策を回避しようとする動きも確認された。銀行側の不正送金対策を回避する目的で暗号資産による送金を指示したり、窓口やATMで送金理由を尋ねられた際に「知人への返済」「物品購入」などと答えるよう指示したりするケースがあった。

　誘導後のコミュニケーション基盤も一つに固定されていない。SNS広告からLINEへ誘導した後、2026年6月には「Zoom」やメッセージングアプリ「Signal」にやりとりを移す事例も確認された。

　複数のサービスをまたいでやりとりを続けることで、利用者だけでなく、サービス事業者側から見ても攻撃全体の把握が難しくなる。

　さらに、警察や検察官をかたる「ニセ警察詐欺」では、相手に「本物の捜査機関と話している」と思わせるための演出が一段と巧妙になっている。

　従来は、偽サイトに架空の逮捕状画像などを表示し、外部の通話アプリに誘導する手法が中心だった。今回確認された事例では、警察機関を装った偽サイトにWebブラウザで動作するビデオ通話機能を組み込み、サイト内で直接「取り調べ」を演出していた。

　攻撃者はディープフェイク技術を使い、実在または架空の捜査員の顔映像をリアルタイムで合成。警察署の取調室を模した背景と組み合わせることで、実際の捜査機関との通話であるかのように見せていた。

　映像や発信元番号などを目視だけで確認し、本物かどうかを判断することは難しい。警察や司法機関を名乗る不審な連絡を受けた場合は、その場で判断せず、いったん通話を切った上で、公表されている代表番号など別の経路から確認することが重要になる。

「頼れるAI」は詐欺の入り口に　AIエージェントを誘導する新手口も登場

　こうした「信頼させる」攻撃は、AIの普及によってさらに新しい領域に広がっている。

　トレンドマイクロが報告したのは、攻撃者自身がAIを利用して攻撃を効率化するケースだけではない。利用者が日常的に頼る生成AIそのものが、悪質サイトへの誘導経路になったり、AIエージェントがWebページに埋め込まれた不正な指示によって本来とは異なる行動を取らされたりする事例だ。

　同社は生成AIの回答を経由した危険サイトへの誘導についても検証している。

　「ChatGPT」や「Gemini」に特定企業の公式URLや問い合わせ窓口を尋ねたところ、回答に偽サイトやフィッシングサイトのURLが提示される事例を確認したという。検索エンジンの「AIによる概要」機能でも、詐欺サイトが情報源として参照される問題が確認された。

生成AIチャットbotが公式サイトではない詐欺サイトを提示する事例（現在は修正済み）（出典：トレンドマイクロのプレスリリース）

　生成AIが示したURLだからといって、そのサイトが正規のものだとは限らない。「検索すれば安全」「AIに聞けば正しい」という利用者側の前提は崩れつつある。企業サイトや金融機関、行政機関などへアクセスする際には、生成AIの回答だけを経路にせず、ブックマークや公式アプリなど別の経路から確認する必要がある。

　AIエージェントについては、さらに別のリスクがある。

　トレンドマイクロは、Webを閲覧して商品を購入する「AIショッピングエージェント」に対し、商品ページ内に不可視の不正な指示文（プロンプト）を埋め込む攻撃を実証した。

　この攻撃では、AIエージェントに設定されていた購入上限30ドルを無視させ、85ドルの商品を指定外の販売者から購入するよう誘導することに成功した。

　これはAIエージェントそのものを完全に乗っ取るというより、エージェントがWebページから取得した情報の中に攻撃者が用意した指示を混入させ、本来の設定とは異なる行動を取らせる攻撃だ。

　しかも、エージェントが正規に与えられた権限の範囲内で処理を実行する場合、従来型の振る舞い検知では異常として捉えにくい可能性がある。

　人間なら「この文章はWebページに書かれた説明で、実行すべき命令ではない」と判断できる場面でも、AIエージェントは入力された情報を指示として処理してしまう可能性がある。AIエージェントを業務に組み込む企業にとっても無関係ではない問題だ。

　攻撃者側のAI活用も、攻撃のスピードを変えつつある。

　同社が「LinkedIn」などの公開情報を利用して検証したところ、従来は2人のリサーチャーが手作業で約1週間かけていた標的情報の収集、関心事の分析、フィッシングサイトの生成までの工程を、AIを利用した自動化ツールでは30分以内に完了できたという。

　これは同社による検証環境での結果であり、あらゆる攻撃者が同じ時間で攻撃を実行できることを意味するものではない。ただ、AIによって攻撃準備に必要な調査やコンテンツ作成の時間を大幅に短縮できる可能性を示す結果ではある。

　トレンドマイクロの意識調査では、AIによって生成された詐欺手口やディープフェイク映像について、「自信を持って見破ることができる」と回答した利用者は8.5％にとどまった。

　AIが生成した情報だから信用できない、という単純な話ではない。AIが「正しそうな情報」を提示し、AIエージェントが「正規の権限」で処理する時代には、人間が何を信頼し、どの経路で確認するかそのものがセキュリティ対策になる。

個人を狙う詐欺　取るべき5つの対策

　トレンドマイクロは、こうした脅威への基本対策として次の5点を推奨している。

• メールやSMSに記載されたリンクから直接手続きせず、公式アプリやブックマークからアクセスする
• 不審な番号や詐欺が疑われる通話を自動検知する詐欺電話対策アプリを利用する
• パスワードを使い回さず、FIDO2準拠のパスキー認証やMFA（多要素認証）を設定する
• 生成AIの回答やAI検索結果に表示されたURLを過信せず、正規ドメインかどうかを別経路から確認する
• 家族や組織内で最新の詐欺手口を共有し、不審な連絡を受けた際に相談できる体制を整える

　特にAIを業務で利用する企業では、AIエージェントに重要な操作を任せる際の権限設計や、人間による承認プロセスも重要になる。

　メール、SNS、偽サイト、ビデオ通話、生成AI、AIエージェント。今回確認された事例に共通するのは、攻撃者が新しい技術を使っていることだけではない。人が「これは信頼できる」と判断する瞬間を、次々と攻撃の入り口に変えていることだ。

　これまでの「怪しいリンクをクリックしない」という対策だけでは、こうした攻撃には対応しきれない。何を信頼するのか、そしてその情報をどの経路で確認するのか。AI時代のセキュリティでは、その判断そのものが問われ始めている。