有識者が語る「GPUを使わず、狭い環境でも稼働するAIソリューション」の構築方法：一般的なCPUを搭載したエッジサーバでAIを活用

企業でのAI活用で課題なのは「AIのための環境構築」だ。通常なら高性能GPUを調達し、大規模な環境を構築する必要がある。だが、その常識を覆し「CPU」と「エッジサーバ」で優れたAI環境を構築した事例がある。関係者に詳しい話を聞いた。

[PR／＠IT]

“GPUレス”の映像解析ソリューション「kizkia」

　生成AI（人工知能）が話題となって久しいが、それに限らず、AIは既にビジネスにおいて不可欠な存在だ。関連する製品やサービス、ソリューションも数多く生まれ、さまざまな業界、業種で活躍している。三菱電機グループがインテルとデル・テクノロジーズの協力を得て開発した映像解析ソリューション「kizkia」もそうしたAIソリューションの一つだ。

　kizkiaは、「不審な人物や物体、危険な行動を検出して通知する」といった用途に利用される。例えば、東京メトロはkizkiaを使って「安心安全な輸送を実現する取り組み」を強化している。

　三菱電機グループは、1950年代から長きにわたって「監視カメラ」を開発している。だが、開発された当初の“監視カメラシステム”は「何かあったときにさかのぼれること」を目的にしていたため、リアルタイム性という点では課題があった。そのため「監視カメラシステムにAIを組み込むことで、対応が必要な事象をリアルタイムに自動検出できないか」と考えるようになり、それがkizkia開発へとつながったという。

　昨今は巨大IT企業が競ってクラウド型AIサービスを提供しているが、kizkiaはエッジサーバで稼働するという特徴がある。既存の監視カメラシステムとの統合やリアルタイム性、コスト最適化などを考慮すると、施設内に設置したエッジサーバで解析させる方が理にかなっているといえるだろう。

　AIによる映像解析では通常、高性能GPUサーバによる大規模なシステムが必要だ。しかし、kizkiaを稼働させるエッジサーバには、高性能なGPUではなく一般的なCPUだけが搭載されている。このシステム構成にできたのは、“コンパクトなAI”をコンセプトとする三菱電機独自のAI技術「Maisart」のおかげだ。AIの演算量を小さくまとめることができるため、一般的なCPUを搭載したエッジサーバでも、AIによる高度な映像解析が可能になっている。

Maisartの概要（提供：三菱電機）

三菱電機が開発で直面した課題

三菱電機インフォメーションシステムズの中尾尭理氏

　三菱電機によると、kizkiaは“Maisart適用第1号のソリューション”だという。kizkiaを開発する道のりは困難の連続で、開発期間も数年間に及んだ。三菱電機インフォメーションシステムズの中尾尭理氏（産業第二事業部　エンタープライズシステム第一部　第二課　エキスパート）は、kizkia開発で直面した課題として「性能」「入手性」「開発性」の3つを挙げる。最大の課題は“性能”だ。できるだけ多くのカメラを扱いつつ、多様な解析機能も実装するとなると、演算をコンパクトにできるMaisartであっても、高い処理能力が必要だ。

　入手のしやすさ（入手性）も問題だった。近年の半導体不足の影響もあり、高い処理性能が得られるGPUは高価な上に入手困難で、安定供給を考えると汎用（はんよう）的なCPUで稼働するソリューションが理想的だ。また、AIの世界は日進月歩のため、優れたソリューションをいち早く提供するスピード感も必要だった。

三菱電機の大西祐貴氏

　「kizkiaは入手性を考え、GPUに限らず、一般的なCPUやGoogleが開発したTPU（Tensor Processing Unit）など幅広いプロセッサで稼働するAIを目指しました。その分、解決すべき課題も多かったと思います。例えばボトルネックの確認やハードウェアに合わせたチューニングなどが複雑になってしまいました。また、首都圏の施設に導入する場合、施設内に環境の整った専用サーバルームを設けるスペースがないことが多く、『この環境条件に適応するエッジサーバがあるのか』という悩みもありました」（中尾氏）

　三菱電機の大西祐貴氏（コミュニケーション・ネットワーク製作所　映像ソリューションシステム部　技術第二課）は映像解析ならではの苦労を語る。

　「映像解析は『どこまで認識できればいいか』といった要件を事前に把握しにくい技術です。導入してみたら、想定していたように認識できない……とならないように、現場で実証実験を繰り返す必要があります。その結果を踏まえ、前処理や後処理を再開発したり、チューニングしたりしますが、そうした作業を迅速に実施できる“開発性の高いAIマシン”が必要でした。もちろん、AIマシンのそのものの処理性能も重要です。処理性能が高ければ開発工数や期間を短縮できるためです」（大西氏）

パートナー2社のサポートで「kizkia」開発の課題を解決

　kizkia開発に欠かせない「高い入手性と開発性を両立させたAIマシン」をどう確保するか。この課題の解決には、協業パートナーであるインテルとデル・テクノロジーズの2社が大きな役割を果たした。

　“入手性”の課題については、インテルの「インテル Xeon スケーラブル・プロセッサー」と「インテル Core プロセッサー」で対応した。第11世代以降のインテル Core プロセッサーと第2世代以降のインテル Xeon スケーラブル・プロセッサーには「インテル ディープラーニング・ブースト」というアクセラレータ（特定の処理を高速化させる仕組み）が備わっている。kizkiaのエッジサーバに搭載されているのは第4世代のインテル Xeon スケーラブル・プロセッサーで、これには「インテル アドバンスト・マトリクス・エクステンション- AMX（Advanced Matrix Extensions）」という行列演算のアクセラレータが備わっている。AMXによって学習や推論の速度が向上し、一般的なCPUでもGPU並みの処理能力を得られるという。

インテルの戸谷大介氏

　“開発性”の課題解決にはインテルの「OpenVINO ツールキット」（以下、OpenVINO）が大きく貢献している。これは、ディープラーニングの推論を高速化するソフトウェアで、多様なライブラリと関連する開発ツールキットを無償で利用できるという特徴がある。それらを使うことで「TensorFlow」や「PyTorch」などのフレームワークでトレーニングした「学習済みモデル」を少ない工数で実装できる。ベンチマークツールも利用でき、どこに遅延が発生しているかなど演算処理のボトルネックを簡単に突き止められる。また、ハードウェアに合わせて設定を最適化する機能も有用だ。「パフォーマンスヒント」として大まかな方向性（スループット重視かレイテンシ重視か、など）を決めることで自動的に最適な設定ができる。これによって開発やチューニングにかかる工数を大幅に削減するといったメリットを得られる。

　「OpenVINOは使いやすく、オープンソースのソフトウェアなので、長期にわたって安心して利用できます。第6世代以降のインテル Core プロセッサーに対応しており、AIの機能を追加して既存のハードウェアを有効活用したいというお客さまにも最適です」とそのメリットを強調するのは、インテルの戸谷大介氏（セールス＆マーケティング・グループ　AI COE　テクニカル・セールス・スペシャリスト）だ。

デル・テクノロジーズのランブックポタ・ジェイ氏

　デル・テクノロジーズはエッジサーバ側から支援する。kizkiaは、エッジでAIによる映像解析をする。そこで、デル・テクノロジーズはエッジに最適化されたサーバ「PowerEdge XR7620ラックサーバー」（以下、XR7620）を提案した。同サーバは、奥行きが472mmとフットプリントが小さいことが特徴で、インテル Xeon スケーラブル・プロセッサーを搭載している上、GPUもサポートする。前後からアクセス可能な「リバーシブルI/O」を採用。遠隔からの操作やモニタリングのために「iDRAC」（Integrated Dell Remote Access Controller）を搭載。首都圏の施設などタイトなスペースに機器を設置せざるを得ないシナリオでも優れた保守性を維持する。

　デル・テクノロジーズのランブックポタ・ジェイ氏（上席執行役員　OEMソリューション事業本部　事業統括本部長）はXR7620の強みについて、次のように語る。

　「AIインファレンス（AI推論）をエッジで実現するには、コンピュート、GPU、ネットワーク、ストレージの全てが重要で、XR7620はこれらの要素を満たしています。そのため、『AIにデータを持っていく』のではなく『データにAIを持ってくる』ということが可能になります。また、デル・テクノロジーズは、業界トップクラスの“セキュアサプライチェーン”を通じてセキュリティに注力しており、お客さまが発注してから、製造して納品後の検証に至る『納入プロセス』全体で、物理とサイバー両面の脅威に対し高いレジリエンスを実現しています。サポートも充実しており、最大7年間の標準サポートや、4時間以内にエンジニアが駆け付けるオンサイトサポートなどを提供しています」

kizkiaのさらなる進化を目指す

　映像解析を皮切りに、kizkiaはさまざまな二ーズに対応するため進化を続けている。監視カメラの代わりにサーマルセンサー（温度センサー）を利用してプライバシーに配慮した見守り機能を提供する「kizkia-Knight」。製造業の現場などでAIによるメーター読み取りを実現する「kizkia-Meter」。外形検査で不良品を検出したり、製造プロセスを分析したりして改善につなげる「kizkiaスマート工場ソリューション」など、解析対象を人以外にも拡張した新たなサービスやソリューションを提供している。

　中尾氏は今後の課題やビジョンについて次のように語る。

　「リアルタイムでの映像解析で目指すのは“プロアクティブなソリューション”です。危険の兆候を検知して事故や事件を未然に防ぐことができれば、社会全体の安全、安心につながります。そのためには、機器の処理能力もさることながら、機器（ハードウェア）とAI（ソフトウェア）の組み合わせをいかに効率良く最適化するかが鍵になります。そのためには、インテルやデル・テクノロジーズの技術力と知見が不可欠で、引き続き協業を深化させていきたいと思います」（中尾氏）

映像解析の今後（提供：三菱電機）

　続けて大西氏は「コストや入手性を考えCPUによる映像解析技術を磨いてきましたが、より多機能で大規模かつ高度な精度を求めるニーズに向けては、2社の協力を得ながらGPUの活用も検討し、お客さまに提供する価値の最大化を目指します」と述べた。