2035年、AI推論需要の半分は「コード生成」に 推論市場の今と未来：主要ベンダー6企業を解説

ABI Researchは、急拡大するAI推論市場の現状を解説した。生成AIの本番利用が広がる中、推論ワークロードは2033年にトレーニングを追い越し、消費電力は2035年に46ギガワットへ拡大すると予測する。

[＠IT]

　市場調査会社のABI Researchは2026年7月22日（米国時間）、急拡大するAI推論市場の現状を分析・解説したレポートを公開した。

　AIの本番利用が進む中、2033年には推論にかかる電力や計算リソースがモデル学習を上回り、AI基盤の主役が入れ替わると予測される。こうした構造変化を見据え、市場ではCoreWeaveやQualcommといった企業による急速な業界統合が進行している。

　ABI Researchは推論市場における主要ベンダー6社の動向と、2035年に向けた用途別の電力需要予測を解説した。

AI推論プラットフォームベンダーとは何か

　AI推論プラットフォームベンダーは、企業が自前の推論基盤を構築・運用しなくてもAIモデルを本番環境で動かせるよう支援する。GPUのスケジューリングからモデルの展開、マルチクラウド環境での性能最適化までを担い、本番でモデルを効率的に提供することに特化している。

　多くのAI推論ベンダーは、ハイパースケーラーやネオクラウド、専門のGPUベンダーから計算リソースを集約する。これにより顧客は、特定のクラウドに縛られずにAI向けの計算リソースを素早く利用できる。AI推論ベンダーはNVIDIAのハードウェアを使う傾向が強いが、Advanced Micro Devices（AMD）など代替アクセラレーターへの対応も着実に広がっている。

この1年で進んだ統合、トレーニング機能の追加、オープンソース化

　直近の1年でAI推論市場は、統合、トレーニング機能の追加、オープンソースへの移行という3点で特徴付けられるようになった。

　ネオクラウドのCoreWeaveとNebiusは、それぞれWeights & BiasesとClarifaiを買収した。AI推論ベンダーのFireworks AIとBasetenは、それぞれHathoraとParsedを取り込んだ。CloudflareはReplicateを、QualcommはModularの買収を発表した。

　「こうした市場統合は、AI推論ベンダーが機能をフルスタックへ拡張し、重要なAIスキルの不足を補おうとしていることの表れだ。企業のAI需要が拡大する中、今後数カ月から数年にわたって、さらなる買収が進むと予想される」（ABI Research）

　トレーニング機能では、かつて推論専業だったベンダーの多くが、モデルのライフサイクル全体を担うプロバイダーとなるべくトレーニング機能を提供し始めている。ファインチューニングと強化学習が主な用途だ。

　オープンソースモデルの採用も急速に進む。企業の生成AI支出に占めるオープンソースモデルの割合は2025年にわずか35％だったが、ABI Researchは2026年に55％へ高まると予測する。背景にはプロプライエタリモデルを本番で動かす際の拡張性やコストの課題があるという。

主要なAI推論ベンダー6社

　ABI Researchが評価した主要なAI推論ベンダーは、いずれも米カリフォルニア州北部を拠点とする次の6社だ。

Baseten

　数百社に対し1日数十億回の推論を処理する。「vLLM」「SGLang」「TensorRT-LLM」などオープンソースの推論エンジンに独自の最適化を加えた基盤を持つ。ParsedとInferlessの買収により、補完的なモデルトレーニングを強化した。

Fireworks AI

　400以上のモデルで1日15兆トークンを処理する。「Microsoft Azure」と連携し、1万社以上に低遅延・高スループットで提供する。

FriendliAI

　リアルタイムのAIエージェントに特化し、長文コンテキストの処理やツール呼び出し（Tool Calling）、低遅延ストリーミングを最適化する。Samsung SDSおよびSamsung Cloud Platformとの戦略的パートナーシップにより、エンタープライズ分野への展開を拡大している。

Modular

　プログラミング言語「Mojo」と推論エンジン「MAX」を軸に、NVIDIA、AMD、Arm、Appleシリコンに単一のコードで対応する。ハードウェアに依存しないアーキテクチャが評価され、Qualcommによる買収につながった。

DeepInfra

　190以上のオープンソースモデルを低コストかつ高スループットで提供する。TensorRT-LLMとvLLMを組み合わせ、最適化されたトークンキャッシュ機能を搭載。大規模な資金調達を経てGPU容量を拡張した。

Novita AI

　サーバレスのAPIと200以上のAIモデルに対応した専用エンドポイントを提供する。vLLMやSGLang、Hugging Faceと連携し、AIエージェント向けの基盤へ拡大している。

電力消費は2035年に46GWへ

　ABI Researchは、AI推論ワークロードが消費する電力を、2026年のわずか2GWから2035年には46GWへ拡大すると予測する。推論がトレーニングを追い越す時期を2033年とみており、大規模な本番環境でのトークン単価の改善、より多様になった計算環境、モデルの能力向上を要因として挙げている。

用途別のAI推論ワークロードの電力消費予測（2026〜2035年）　テキスト生成に代わりコード生成が主役となり、2035年には全体の半分以上を占める（提供：ABI Research）

　用途別では、テキスト生成が2027年まで最大の推論ワークロードであり続けるものの、その後はコード生成が主役になる。コード生成ワークロードの年平均成長率（CAGR）は52％で拡大し、2035年には23.6GWと、AI推論全体の半分以上を占める見込みだ。

AI推論ベンダーが直面する市場の課題

　フロンティアモデルプロバイダーがモデルの提供にとどまらずソリューションの垂直展開を進めている。単一の環境でエンドツーエンドの本番ワークフローを構築できる包括的な推論プラットフォームの登場は、小規模な独立系推論プロバイダーの価値を低下させている。

　2つ目の課題は、多くのAI推論ベンダーが売り上げをAIネイティブのスタートアップに依存していることだ。スタートアップは規模が拡大するとAIワークロードを内製化することが多く、顧客基盤の多様化が欠かせない。

　3つ目の課題は、計算基盤の断片化が進み、企業はGPUや専用アクセラレーターへワークロードを分散させていることだ。複数のハードウェアに最適化できないAI推論ベンダーは競争で後れを取る。

　4つ目の課題は、AIワークステーションやエッジの基盤の導入が広がるにつれ、コストの削減、遅延の最小化、データセキュリティの強化を目的として、推論ワークロードは次第にクラウドからデータ生成場所の近く（オンプレミス・エッジ環境）へ移行することだ。

　スキル不足もAIの拡大を阻む要因であり続けている。マサチューセッツ工科大学（MIT）の調査では生成AIのパイロットプロジェクトの95％が失敗しているとし、ABI Researchの調査によれば、専門知識の不足が新技術を導入・展開する上で3番目に大きな課題となっている。

　「今後10年間で推論の電力消費需要が爆発的に増加する中、テクノロジープロバイダーは、より大規模なフロンティアモデルプロバイダーの参入、特定の顧客基盤への過度な依存、ヘテロジニアス（不均一）な計算ハードウェアの台頭、そしてオンプレミス推論の普及といった、複数の商業的脅威に対応する必要がある」（ABI Research）

　同社は、AI推論ベンダーの統合、業界特化型の推論ソリューションの広がり、オープンソースへの移行が市場を形づくる主な潮流だと結論付けている。