ブラウザ内AI推論を「最大60倍」速く Web AIランタイム「LiteRT.js」をGoogleが発表：もうサーバはいらない（2/2 ページ）

Googleは、同社のオンデバイス推論ライブラリ「LiteRT」のJavaScriptバインディングである「LiteRT.js」を発表した。「TensorFlow」がルーツにあり、「PyTorch」「JAX」「Keras」といったフレームワークでも同様に高いパフォーマンスを発揮するという。

[＠IT]

「標準的なCPU実行と比べて5〜60倍の高速化」

　統合ランタイムとハードウェアアクセラレーション対応バックエンドの効果を示すためにGoogleはLiteRT.jsと既存Web製品と比較、評価した。従来型のコンピュータビジョンモデルと音声処理モデルにおいて、LiteRT.jsはCPU推論とGPU推論の両方で、他のWebランタイムを最大3倍上回ったという。

LiteRT.jsと既存Webランタイムの性能比較：M4チップ搭載「MacBook Pro」（2024年モデル）で測定（出典：Google）

　Googleは、CPU（XNNPACK経由）、WebGPU、WebNN（Apple CoreML経由）という3つのWeb実行バックエンドで、人気のAIモデルのベンチマークも実施した。物体追跡、画像加工、音声の文字起こしのような要求の厳しいリアルタイムアプリケーションでは、GPUやNPUの活用により、標準的なCPU実行と比べて5〜60倍の高速化が得られた。

CPU、WebGPU、WebNNの3つのバックエンドによる性能比較（提供：Google）

デモ：Webブラウザで物体検出、深度推定、画像アップスケーリング

　物体検出では、リアルタイムの物体検出モデルと画像セグメンテーションモデルのファミリー「YOLO」（You Only Look Once）の開発元Ultralyticsが、公式のLiteRTエクスポート機能を自社のPythonパッケージに組み込んだ。開発者はUltralyticsのYOLOモデルをモバイル、エッジ、ブラウザに展開でき、コンパイルから実行までを数行のコードで実現できる。

リアルタイムビジョンモデルファミリー「YOLO26」によるデモ（クリックで動画再生）（提供：Google）

　深度推定のデモ「Depth Anything」は、標準的なWebカメラの映像を、リアルタイムでインタラクティブな3次元点群に変換する。WebGPU経由で「Depth-Anything-V2」モデルを利用し、深度データを瞬時に計算する。

Depth AnythingとWebGPUを使った単眼深度推定のデモ（クリックで動画再生）（提供：Google）

　画像アップスケーリングのデモでは、「Real-ESRGAN」モデルを使い、Webブラウザ内で画像を4倍に拡大する。128×128ピクセルのパッチを512×512に拡大し、それらを再構成して最終的な画像を生成する仕組みだ。

Webブラウザ内で画像を4倍にアップスケーリングするデモ（クリックで動画再生）（提供：Google）

今後の計画

　GoogleはLiteRT.jsの性能を向上させるとともに、モデル対応と開発者向けツールの機能を継続的に拡充する方針だ。WebNN統合の強化と、オンデバイス生成AIに対する高度に最適化されたサポートの提供に重点を置くという。