生成AIによる偽情報・誤情報対策が急務に？ Gartnerが「TrustOps」を提言する理由：2028年までに企業の対策費用は300億ドル超と予測

Gartnerは、企業の偽情報対策費用が2028年までに300億ドルを超えるとの予測を発表した。AIによって、コンテンツの透明性や信頼性に新たな課題が突き付けられる中、Gartnerは「TrustOps」という概念を提唱している。

[＠IT]

　Gartnerは2025年10月30日（米国時間）、2028年までに誤情報／偽情報対策への企業支出が300億ドル（約4兆6000億円〈1ドル=154円換算〉）を超えるとの予測を発表した。マーケティングやサイバーセキュリティ予算の10％が、多面的な脅威に対応するために費やされるという。

　ビジネスおよびテクノロジーの上級経営幹部200人を対象にした同社の調査（2024年12月）によると、回答者の72％が誤情報、偽情報、悪意ある情報を「極めて重要な課題」または「優先度の高い課題」として認識している。Gartnerは、虚偽の情報が組織に重大な財務リスクやレピュテーション（評判）リスクをもたらすと説明している。

偽情報拡大を促進させる3つの要因

　Gartnerのデーブ・アロン氏（ディスティングイッシュト バイス プレジデント アナリスト 兼 Gartnerフェロー）は、3つの現象が重なることで偽情報の力と危険性が大きく増幅されていると指摘する。

　1つ目は、インターネット、ソーシャルメディア、モバイルアプリの普及により、コストをほとんどかけずにマルチメディアコンテンツが多くの人に瞬時に届くようになったことだ。これらのツールは、受け取る個人や顧客、市民グループごとに異なるメッセージを届けることができる。

　2つ目は、生成AI（人工知能）の進化により、説得力のある会話の作成だけでなく、ディープフェイクの画像、音声、動画コンテンツを簡単に作成できるようになっていることだ。

　3つ目は、行動科学、ビッグデータ、アナリティクス、AIを組み合わせることで、思考モデル、意思決定、行動の変化を目的とした、個人にとって最も説得力のあるメッセージの作成が可能になっていることだ。

信頼を守る新概念「TrustOps」

　AIによって、コンテンツの透明性と信頼性に新たな課題が突き付けられる中、Gartnerは「TrustOps」という概念を提唱している。これは、組織の信頼、信用、透明性を高めつつ、誤情報や有害な関わりから生じるリスクを軽減するための能動的かつ統合的なアプローチだ。

　アロン氏は「信頼をマーケティングやコンプライアンス（法令順守）の副産物としてではなく、オペレーション上の目標として意図的に扱い、コンテンツの完全性を守り、消費者の信頼を育むという意識を持つことが重要だ」と説明。コミュニケーション、IT、財務、法務、人事、マーケティングなどの経営幹部が主導し、組織の垣根を越えた代表者で構成される信頼評議会を結成することを推奨している。

偽情報に対抗するための4つの手段

　Gartnerは、TrustOpsに加えて、偽情報に対抗するために4つの手段を推奨している。

• ルール／ガバナンス／プロセス：組織は、信頼に関する健全な原則を確立し、新しいテクノロジーや攻撃者がもたらす危害の脅威を最小化するためのポリシーとプラクティスを定義し、実施する必要がある
• 教育：企業内では、AIとTrustOpsを結び付けることが、全社的な取り組みのための重要な戦略となる。従業員教育、戦略、対応策のために、部門横断的なチームを活用できる
• ナッジ／インセンティブ：ナッジ（さりげない介入）のような行動科学的手法を利用することで、偽情報にだまされないように働きかけることが可能になる。消費者、顧客、従業員、パートナーが疑わしい情報に対して健全な懐疑心を持つ習慣を強化するために、ナッジやインセンティブを活用できる
• テクノロジー／ツール：虚偽のコンテンツを検知し、否定するために、さまざまなソーシャルメディア・プラットフォームに偽情報を波及させる影響操作を追跡するナラティブインテリジェンスツールを採用することが推奨される

偽情報に対抗するための4つの手段（提供：Gartner）

---

　生成AIの進化は業務効率化に寄与する一方、Gartnerが指摘するように、説得力のある偽情報を安価で生み出せるという側面もある。さらに、偽情報や誤情報は悪意ある攻撃者だけでなく、プラットフォームが提供するAI機能によって悪意なく生成されてしまうケースも考えられる。生成AIの活用が進む今、IT部門や情報システム部門は従来のセキュリティ対策に加えて、偽情報や誤情報に関する対策にも向き合わざるを得ない状況に突入しているといえる。