生成AIは何に悪用されている？　Google DeepMindなどGoogleの3部門が論文を発表：約200件の報道記事を分析

Google DeepMindなどGoogleの3部門が共同で、生成AI技術が現在、どのように悪用されているかを分析した論文を発表した。

» 2024年08月07日 08時00分公開

[＠IT]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

　GoogleのAI（人工知能）部門であるGoogle DeepMindは2024年8月2日（米国時間、以下同）、生成AI技術が現在、どのように悪用されているかを分析した論文を発表した。

　同論文は、GoogleのJigsaw部門およびGoogle.orgと共同で作成され、査読前論文を投稿するサーバ「arXiv」で2024年6月21日に公開された。Jigsawは、開かれた社会に対する脅威を探求し、拡張可能な解決策を生み出す技術を開発している。Google.orgは、Googleの慈善事業部門。同論文は、責任あるAIの開発、使用を推進するGoogleの取り組みの一環として執筆された。

　論文をまとめた研究チームは、既存の学術文献を踏まえ、2023年1月から2024年3月までにメディアで公開された、生成AI技術の悪用事例に関する約200件の報道記事を定性的に分析した。これにより、生成AIを悪用する一般的な手口を定義、分類し、この技術の新たな悪用パターンや侵害パターンを発見した。

生成AIを悪用する手口の主な2つのカテゴリーとは

#CmsMembersControl .CmsMembersControlIn {width:100%;background:url(https://image.itmedia.co.jp/images/spacer.gif) #DDD;opacity:0.05;filter:progid:DXImageTransform.Microsoft.Alpha(Enabled=1,Style=0,Opacity=5);z-index:1;}

続きを閲覧するには、ブラウザの JavaScript の設定を有効にする必要があります。

生成AIでサイバー攻撃が「より迅速で高精度な攻撃」に進化　バラクーダがランサムウェアの攻撃パターンを調査
バラクーダネットワークスは、脅威レポート「バラクーダの注目する脅威：AI戦術の定着でランサムウェア攻撃の報告件数が倍増」を発表した。「サイバー犯罪者が生成AIを使用して、より迅速で精度の高い攻撃を行っていることを検証した」としている。
ドワンゴのサイバー攻撃被害、すぐに「ニコニコ動画（Re:仮）」を公開できた理由
大手出版事業者のKADOKAWAがランサムウェアを含む大規模なサイバー攻撃の被害に遭った。子会社であるドワンゴの動画配信サービス「ニコニコ動画」が停止し大きく話題となる中、「被害を受けなかった動画システムやデータ」を基にした「ニコニコ動画（Re:仮）」が公開された。仮サービスをいち早くリリースできた背景にあるのが、2024年3月に完了していた動画配信基盤のAWS移行だ。2024年6月に開催された「AWS Summit Japan」では、ドワンゴの久保田陽介氏が、動画配信基盤のAWS移行に踏み切った背景や作業過程、移行から得られたメリットを解説した。
「サイバー攻撃の被害は警察署に通報を」――警視庁が解説する最新の脅威動向、セキュリティ対策の基本
サイバー攻撃の脅威を対岸の火事と捉える経営者は珍しくない。だが現実は、企業規模を問わず、脆弱性のあるシステムを標的にサイバー攻撃が仕掛けられ、システムを使用していた自社はもちろん、取引先にまで影響を及ぼすケースが起きている。東京商工会議所が主催したセミナーに登壇した警視庁の担当者が、最新の脅威動向、サイバーセキュリティ対策の基本を解説した。