生成AIをデバイス上で実行するための「ヘテロジニアスAIチップセット」　2030年までに18億個出荷：ABI Researchの予測

ABI Researchは、2030年までにヘテロジニアスAI（人工知能）チップセットの出荷数18億個以上に達するとの予測を発表した。

» 2024年03月13日 08時00分公開

[＠IT]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

　ABI Researchは2024年2月21日（米国時間）、2030年までに、異なる種類のプロセッサ（CPU、GPU、NPUなど）を組み合わせて、AI（人工知能）の計算処理をより効率的に実行するためのチップセットである「ヘテロジニアスAIチップセット」の出荷数が18億個以上に達するとの予測を発表した。

　ABI Researchによると、ヘテロジニアスAIチップセットを搭載したデバイスは、抽象化レイヤーを通じて、AIワークロードをCPU／GPU／NPUのアーキテクチャ間で効率的に分散処理できる。これにより、150億以下のパラメーターに圧縮された大規模言語モデル（LLM）を使用した推論をローカルで実行できるようになるとしている。

#CmsMembersControl .CmsMembersControlIn {width:100%;background:url(https://image.itmedia.co.jp/images/spacer.gif) #DDD;opacity:0.05;filter:progid:DXImageTransform.Microsoft.Alpha(Enabled=1,Style=0,Opacity=5);z-index:1;}

続きを閲覧するには、ブラウザの JavaScript の設定を有効にする必要があります。

エッジAIに対応するRISC-Vの開発が進む？　2030年までに1億2900万個を出荷　ABI Research
調査会社ABI Researchは、RISC-Vの市場動向分析レポートを公開した。エッジAIワークロードの増加に伴い、2030年までにRISC-Vの出荷個数が1億2900万個に達すると予測している。
オープンソースのLLMをローカルで実行できる「Ollama」Windowsプレビュー版、公開
Ollama Projectは、オープンソースの大規模言語モデルをローカル環境で実行できる「Ollama」のWindowsプレビュー版を公開した。
Microsoft、WebブラウザでMLモデルを実行できる「ONNX Runtime Web」を公開
Microsoftはあらゆる機械学習（ML）モデルを実行できる「ONNX Runtime Web」を公開した。オープンソース推論エンジン「ONNX Runtime」の新機能だ。JavaScript開発者はMLモデルをWebブラウザで実行、デプロイできる。