「AIにはGPU」の時代に考えたい、データセンターの制約を克服するCPUとサーバの新展開：AI推論の広がりと、CPUベースのサーバが再評価される理由

AIの需要は「学習」から「推論処理」に移行しており、機密保持の観点からAIインフラのオンプレミス運用を再評価する向きがある。しかし既存のデータセンターは電力やスペースの限界に直面している。この制約を破り、業務アプリとAI処理の混在環境を効率化するアーキテクチャとは。

[PR／＠IT]

AIのビジネス活用は「学習」から「推論」に変化

　AI技術のビジネス活用が新たなフェーズを迎えている。これまでは大規模言語モデル（LLM）をはじめとするAIモデルの構築など、膨大な計算リソースを必要とする学習（トレーニング）に主眼が置かれていた。しかし近年は構築されたAIモデルを実業務に適用する「推論」にニーズが移行している。学習済みの複数のAIモデルを使い分けることも珍しくない。自律的にタスクを実行する「エージェンティックAI」の登場によって、既存のAIモデルを併用していかに効率良く推論処理を実行するかがビジネスの成果に直結するようになった。

佐野晶氏（スーパーマイクロ ゼネラルマネージャー FAE＆ビジネスデベロップメント）

　AIのためのインフラ要件が「AIモデルの学習」から「推論処理を用いた実業務への適用」にシフトしたことで、GPUとCPUの役割にも変化が生じている。スーパーマイクロの佐野晶氏は「AIモデル構築には並列処理に適したGPUが不可欠であり、高性能GPUを搭載したサーバが必要とされてきました。ただしAIの用途が推論に移行したことで、これからは『CPUの効率的な活用』が重要なテーマになります」と指摘する。

　インテルの渡邉恭助氏も「業務アプリケーションの処理とAIの処理が混在する仮想化環境や、複数のタスクを並列処理するエージェンティックAIの実行時などは、システム全体のパフォーマンスと電力効率を維持するCPU性能が効率化の鍵となります」と強調する。事前学習済みAIモデルをローカル環境で実行する場合、大規模なAIモデル構築時ほど膨大なGPUリソースは必要ない。AIのパフォーマンスを支えるアーキテクチャとしてGPUの存在感は健在だが、推論処理が主軸になったからこそ、CPUの価値を再評価する流れが来ている。

電力とスペースの限界に直面するデータセンターと、オンプレミス運用の壁

渡邉恭助氏（インテル IA技術本部 部長）

　CPUの価値が再評価される背景には、GPUの調達コストの高騰、データセンターのファシリティーの限界といった問題がある。機密データ保護（データ主権）やレイテンシ低減の観点から、オンプレミスでAIインフラを運用するニーズは高まりつつある。ただしGPUを多数搭載するAIサーバは1台当たり数千万円〜数億円規模に達する場合があり、投資を回収できる企業はごく一部だ。調達後も、運用時の消費電力や冷却設備のコストに直面する。佐野氏は「従来のデータセンターは1ラック当たり10キロワット前後、冷却設備を含めても20キロワット程度を前提に設計されていました。しかし最新のラックスケールAIシステムには、1ラック当たりの消費電力が240キロワットを超えるものもあります。既存のデータセンターでは供給電力、床耐荷重、スペースの制約から、新たなAIサーバの導入そのものが物理的に困難なケースがあります」と明かす。

　技術トレンドへの追随と、混在環境の構築における課題もある。AI関連技術の更新周期は短く、設備投資のタイミングの判断は容易ではない。導入した設備を既存の仮想化基盤や業務アプリケーション基盤と共用することも困難だ。佐野氏は「現在の環境を整えている間に新技術が登場して、運用を開始した段階で設備が陳腐化するリスクもあります」と説明する。

　こうした背景から注目を集めているのが、「インテル^® Xeon^® 6+ プロセッサー」（以下、Xeon^® 6+）搭載の、高密度かつ低消費電力を実現したCPUベースのサーバだ。Xeon^® 6+は、高効率なEコアを1ソケット当たり最大288コア搭載して、高密度化と消費電力抑制を両立させている。

大幅なサーバ集約と消費電力削減を両立させる新世代プロセッサの設計思想

　Xeon^® 6+の設計意図について、渡邉氏はこう説明する。「AIの需要が推論処理、そして自律的にタスクを遂行するエージェンティックAIへ移行するにつれて、CPUの重要性は増しています。従来のCPUはGPUに比べてコア数が少なく、並列処理に課題がありました。業務アプリケーションとAI処理が混在する仮想化環境では、AI処理に計算リソースが占有されて、システム全体の性能低下や電力効率の悪化を招きます。Xeon^® 6+は、これらの課題解決を目指して開発しました」

　Xeon^® 6+はIntel 18Aプロセス技術を採用しており、1ソケット当たり最大288基のEコア（電力効率に特化）を搭載する。「インテル^® Xeon^® 6780E プロセッサー」との比較で、平均パフォーマンスは2.26倍、ワット当たりのパフォーマンスは1.55倍に向上した。2019年頃にリリースされた第2世代インテル^® Xeon^® スケーラブル・プロセッサー（インテル^® Xeon^® Gold 6258R プロセッサー）で構成されたデータセンターとの比較試算（Intel調べ）によると、48ラック（960サーバ）の規模を10ラック（100サーバ）に削減できる。この場合のサーバ集約率は約9対1、消費電力は73％減、設置面積は79％縮小可能になる。

図1　前世代と比較したXeon^® 6+のパフォーマンス（提供：Intel）《クリックで拡大》

　「Xeon^® 6+搭載サーバは、仮想化環境やマイクロサービス化された環境での推論ベースAIアプリケーションの運用に加えて、分散ストレージ、メディアサーバ、ネットワークインフラ、データベースなど、多彩な用途に適用できます。GPU搭載AIサーバとの併用はもちろん、必要に応じてGPUを追加搭載してAI基盤とすることも可能です」（渡邉氏）

サーバから冷却設備まで、ファシリティー全体で挑む「熱・電力の全体最適」

　Xeon^® 6+搭載サーバとして、Supermicroは「Supermicro X14」を展開している。同社はIntelとの長年にわたるパートナーシップの下、新CPU発表に合わせて新CPU搭載サーバを投入することで知られている。Xeon^® 6+の発表とほぼ同時に、1U/2Uラックマウントの「Hyper」をはじめ、高密度マルチノードの「GrandTwin^®」、高集約な「SuperBlade^®」などの製品群を市場に投入。AIアプリケーション基盤、仮想化基盤、ストレージ基盤、ネットワーク基盤など、さまざまな要件に応じて低消費電力でコストパフォーマンスの高いデータセンター設備を構築できる。

図2　Xeon^® 6+搭載のSupermicro X14製品群（提供：Supermicro）

　Supermicroの強みは、データセンター全体をモジュール型で構築するアプローチ「DCBBS」（Data Center Building Block Solutions^®）にある。サーバ、空調、配管、冷媒分配ユニット、水冷タワー、ドライタワー、冷却ドアなどの物理設備から管理ソフトウェアまで、多くのコンポーネントを自社開発しており、個別最適に陥りがちなファシリティー全体の熱・電力設計の全体最適化を担う。

　「DCBBSが目指すのは、製品を素早く提供するTTM（Time to Market）、即座に配備するTTD（Time to Deploy）、即座に稼働させるTTO（Time to Online）を組み合わせて、お客さまに速やかに利益をもたらす『TT$（Time to Profit）』です。Xeon^® 6+の高いコア密度と電力効率を生かし、AI時代の多様なワークロードに対応するとともに、お客さまの利益創出に貢献します」と佐野氏は述べる。渡邉氏も、「ワークロードによって必要なプロセッサは変わります。IntelはEコアだけでなく、高パフォーマンスなPコアやGPUも展開しています。処理の特性を踏まえて最適なプロセッサを選択してください」と語る。

　データセンターのファシリティーの制約やワークロードの多様化に伴って、AIインフラの選定基準は大きく変化している。ワークロードごとに要求される計算リソースや電力効率の仕様も異なる。データセンターの供給電力やスペースの制限、アプリケーションの混在状況など、実業務の要件に合わせてプロセッサや冷却設備を組み合わせる全体最適を考える上で、Xeon^® 6+搭載のSupermicro X14製品群は有効な選択肢になるだろう。

Amazonギフトカードが当たる！アンケート実施中

本記事に関連して「インテル® Xeon® 6+ プロセッサー搭載サーバー」についてのアンケートを実施しています。回答された方の中から抽選で10名様に、Amazonギフトカード（Eメールタイプ）3000円分をプレゼントいたします。当選者には、アイティメディアIDにご登録のメールアドレス宛にギフトをお送りします。当選者発表はギフトの送付をもってご連絡とさせていただきます。ぜひ下記アンケートフォームよりご回答ください。

ログイン または 会員登録（無料）いただくとアンケートフォームが表示されます。オレンジ色の「アンケートに回答する」ボタンからアンケート回答をお願いいたします。