生成AIは何に悪用されている？ Google DeepMindなどGoogleの3部門が論文を発表：約200件の報道記事を分析

Google DeepMindなどGoogleの3部門が共同で、生成AI技術が現在、どのように悪用されているかを分析した論文を発表した。

[＠IT]

　GoogleのAI（人工知能）部門であるGoogle DeepMindは2024年8月2日（米国時間、以下同）、生成AI技術が現在、どのように悪用されているかを分析した論文を発表した。

　同論文は、GoogleのJigsaw部門およびGoogle.orgと共同で作成され、査読前論文を投稿するサーバ「arXiv」で2024年6月21日に公開された。Jigsawは、開かれた社会に対する脅威を探求し、拡張可能な解決策を生み出す技術を開発している。Google.orgは、Googleの慈善事業部門。同論文は、責任あるAIの開発、使用を推進するGoogleの取り組みの一環として執筆された。

　論文をまとめた研究チームは、既存の学術文献を踏まえ、2023年1月から2024年3月までにメディアで公開された、生成AI技術の悪用事例に関する約200件の報道記事を定性的に分析した。これにより、生成AIを悪用する一般的な手口を定義、分類し、この技術の新たな悪用パターンや侵害パターンを発見した。

生成AIを悪用する手口の主な2つのカテゴリーとは