「Yahoo!ニュース」の違反コメント対策に深層学習判定モデルを導入：検知数が約2.2倍に向上

ヤフーは、「Yahoo!ニュース コメント」で違反コメントへの対策をさらに強化した。新たに導入した「深層学習を用いた自然言語処理による判定モデル（AI）」によって、違反コメントの検知数が約2.2倍に向上した。

[＠IT]

　ヤフーは2020年3月6日、「Yahoo!ニュース コメント」で違反コメントへの対策を強化したと発表した。「深層学習を用いた自然言語処理による判定モデル（AI）」を、同社が独自に開発した深層学習特化型スーパーコンピュータ「kukai」で稼働させた。

　これまでもYahoo!ニュースは、ユーザーから違反報告があった記事や、閲覧数の多い記事、特定ジャンルの記事といった優先順位を付けて、人手や機械学習によってコメントのパトロールを24時間365日体制で実施していた。そして、違反があれば、違反コメントの削除や、悪質なユーザーのアカウント停止といった処置を、主に人手で行ってきた。

ヤフーが導入した深層学習判定モデル（出典：ヤフー）

深層学習特化型のスーパーコンピュータ「kukai」で判定モデルを実行

　今回の対策強化に当たって導入した判定モデルには、1100万件のコメントデータなどを学習させた。実際に1週間分のコメントデータを使って、今回導入した判定モデルと、従来の「機械学習を用いた自然言語処理による判定モデル（AI）」を比較したところ、違反コメントの検知数が約2.2倍に向上したという。

　新たに導入した判定モデルを実行するkukaiは、NVIDIAのGPU「Tesla P100」を160基備えた深層学習特化型のスーパーコンピュータ。kukaiは、2017年6月に発表された省エネ性能ランキング「GREEN500」で世界第2位を獲得するほど、省エネ性能に優れる。演算性能は、従来ヤフーが利用していたシステムの約225倍に当たる460.7TFLOPS（テラフロップス）で、消費電力1ワット当たりの演算性能は世界トップクラスの14.04GFLOPS／W（ギガフロップスパーワット）だとしている。

　なおヤフーは、「今後、今回導入した判定モデルの結果をコメント表示順の改善にも採用し、より多くの人に読んでほしいコメントが上位に表示されるようにする」としている。