「Yahoo!ニュース」の違反コメント対策に深層学習判定モデルを導入：検知数が約2.2倍に向上

ヤフーは、「Yahoo!ニュース コメント」で違反コメントへの対策をさらに強化した。新たに導入した「深層学習を用いた自然言語処理による判定モデル（AI）」によって、違反コメントの検知数が約2.2倍に向上した。

[＠IT]

　ヤフーは2020年3月6日、「Yahoo!ニュース コメント」で違反コメントへの対策を強化したと発表した。「深層学習を用いた自然言語処理による判定モデル（AI）」を、同社が独自に開発した深層学習特化型スーパーコンピュータ「kukai」で稼働させた。

　これまでもYahoo!ニュースは、ユーザーから違反報告があった記事や、閲覧数の多い記事、特定ジャンルの記事といった優先順位を付けて、人手や機械学習によってコメントのパトロールを24時間365日体制で実施していた。そして、違反があれば、違反コメントの削除や、悪質なユーザーのアカウント停止といった処置を、主に人手で行ってきた。

ヤフーが導入した深層学習判定モデル（出典：ヤフー）

深層学習特化型のスーパーコンピュータ「kukai」で判定モデルを実行

　今回の対策強化に当たって導入した判定モデルには、1100万件のコメントデータなどを学習させた。実際に1週間分のコメントデータを使って、今回導入した判定モデルと、従来の「機械学習を用いた自然言語処理による判定モデル（AI）」を比較したところ、違反コメントの検知数が約2.2倍に向上したという。