AIを利用した推薦システムを悪用し、意図的な偽情報が拡散可能 F-Secure：リツイートを悪用

F-Secureは、AIを利用した推薦システムの危険性について警告を発した。「AIによる推薦」に関する実験の結果、意図的な偽情報や陰謀論の拡散が可能だった。

[＠IT]

　F-Secureは2021年6月25日、AI（人工知能）を利用した推薦システムの危険性について警告を発した。同社がソーシャルメディアでAIによる推薦に関する実験をした結果、意図的な偽情報や陰謀論の拡散が可能だった。

F-SecureのWebページから引用

　AIによる推薦システムは、検索エンジンやオンラインショッピングサイト、ソーシャルメディアなどで広く利用されている。最近ではインターネットの影響が大きくなっていることから、こうしたAI推薦システムに対して、意図的な偽情報の拡散など悪用に対する懸念が生じている。

リツイートを悪用することで特定のアカウントを推奨させることが可能

　F-Secureで人工知能研究センターのシニア・リサーチャーを務めるAndy Patel氏は、レコメンドシステムで利用される「協調フィルタリングモデル」にTwitterで収集したデータを学習させた。その後、特定のアカウント間で「リツイート」されたデータ（ポイズンデータ）を用いてモデルを再学習させ、推奨度がどのように変化するかを調べた。

　これは、ソーシャルメディアなどがユーザーに推奨情報を提供する際に採用すると思われる仕組みを簡略化したものだ。