ディープラーニングの演算量を80%削減 NEDOとOKIが軽量化技術を開発車載用途やIoT機器などでも高度なAIを活用

NEDOとOKIは、ディープラーニングのモデルを軽量化する新技術を開発した。OKI独自のチャネルプルーニング技術を発展させた。既存の高精度モデルに対して、認識精度の劣化を約1%に抑えつつ、演算量を約80%削減した。

» 2019年09月11日 08時00分 公開
[@IT]

この記事は会員限定です。会員登録(無料)すると全てご覧いただけます。

 国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)と沖電気工業(OKI)は2019年9月9日、多様な分岐や合流のあるネットワーク構造を含むディープラーニングのモデルを軽量化する新技術を開発したと発表した。認識性能を維持しつつ、メモリの使用量や消費電力を低減できるという。エッジデバイスやIoT(モノのインターネット)機器など、演算性能や電力消費に制限がある機器にも高度なAI(人工知能)を実装できるようになる。

 ディープラーニングは、脳内の神経細胞ネットワークの構造を模したモデルで構成するAIアルゴリズムで、画像や音声などの認識性能に優れる。中間層(隠れ層)を多層化することで認識性能をより高められる。しかし、中間層を多層化すると演算量が増え、演算性能やメモリといった演算リソースを多く必要とし、消費電力も高くなる。そのため、車載用途や組み込み機器、IoT機器など演算リソースが制限されている機器で高度な認識性能を備えたディープラーニングモデルを実行させるには、モデルの軽量化技術の開発が課題となっていた。

画像 従来のチャネルプルーニング手法によるチェネル削減効果

 NEDOとOKIが開発した技術は、OKI独自のチャネルプルーニング技術である「PCAS」(Pruning Channels with Attention Statics)を発展させたもの。チャネルプルーニングとは、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)と呼ばれるディープラーニングのアルゴリズムの1つに対して、モデルの畳み込み層から冗長なチャネルを削減し、チャネルに関連する演算量を減らす技術。従来のチャネルプルーニングは、層ごとに削減率を設定する必要があって手間がかかる上に、全体として最適な削減にならないという欠点があった。

今回開発されたモデル軽量化技術の特徴

 これに対してPCASは、ディープラーニングの中間層の層と層の間にアテンションモジュールを導入してチャネルの重要度を推定するようにした。これによって、認識性能を維持しつつ、層単位の削減率設定を不要とした。

Copyright © ITmedia, Inc. All Rights Reserved.

RSSについて

アイティメディアIDについて

メールマガジン登録

@ITのメールマガジンは、 もちろん、すべて無料です。ぜひメールマガジンをご購読ください。