サーバ調達難でもAIインフラ構築の「奥の手」として注目を集めるCDIとは何か：手持ちのサーバで最新のNVIDIA GPUをフル活用

生成AIの活用が進む中、AIサーバの価格高騰や納期延伸が課題になっている。その解決策として注目されているのが「CDI」だ。NVIDIA GPUのROIを最大化する「LIQID CDI」の仕組みとその効果を取材した。

PR／＠IT

PR

　生成AIの進化をきっかけに、自組織固有データを生かしたAIワークロードの実行環境の整備を目指す企業が増えている。フロンティアAIの利用コストやセキュリティを考慮してオンプレミスでAI実行環境を整備しようというニーズはあるものの、メモリ価格高騰の影響でAI向けサーバ機器の新調が難しい状況だ。

　サーヴァンツインターナショナルの古田雅一氏は「昨今のサーバ機器の価格高騰や納入延伸の主な要因はメモリやSSDの需給逼迫（ひっぱく）にある。AIサーバ自体が調達難であってもGPUさえ入手できれば、それらを物理的に集約し、既存のサーバを活用してAIインフラを構築できる」と説明する。

サーヴァンツインターナショナルの古田雅一氏（代表取締役社長 兼 バイスプレジデント、セールス）

　「GPU搭載サーバにおける実際のGPU稼働率は実はそれほど高くない。せっかくの高額投資をもっと有効活用すべきだ。また、稼働していない時間もサーバには通電し続けるため電力消費量のロスも大きい。GPUをサーバから切り離して集約すれば電力消費も削減でき、その分を各ワークロードに割り当てられれば既存IT投資のROI向上にもつながる」

　ここで注目を集めるのが、GPUとサーバを分離し、動的に割り当てる「CDI」（Composable Disaggregated Infrastructure）という選択肢だ。

AIインフラ設計を柔軟に　「CDI」（Composable Disaggregated Infrastructure）とは

　CDIは、簡単に言えば「サーバリソース（GPU、NIC、SSD、DRAMなど）を物理的に外部に集約して、サーバ間で動的、かつ占有的にリソースを割り当てる技術」だ。仮想のリソースプールとは異なり、物理的、かつ占有でリソースを利用できる。

　GPUは、通常はサーバ内部のPCIeスロットに装着されるが、CDIでは、PCIeバスをサーバの筐体（きょうたい）外に延長し、GPUを搭載した拡張シャーシに接続する形で利用する。複数のサーバを接続する場合はPCIeスイッチでネットワーク化する。サーバ内蔵のPCIeスロットの数には制約があるため、搭載できるGPU数も限られる。しかし、拡張シャーシはスペースに余裕があるため、より多くのGPUを搭載できる。1つの拡張シャーシを複数のサーバと接続できるので、サーバとGPUの接続状況の動的切り替えも可能だ。

　サーバ内蔵のGPUはサーバそのものが障害などで利用できなくなった場合、GPUリソースも使えなくなるが、外部接続であれば他のサーバに切り替えてワークロードを実行できる。また、GPUは消費電力量が大きく発熱量も大きい点が運用上の課題だが、これも外部接続にしてサーバと切り離すことでGPUの運用に特化した環境を用意して対応できる。

　「市場のリーダーであるNVIDIAのGPUを調達する際、よくあるのが『AI投資のタイミングとして、次世代製品を待たなくてよいのか』という議論。NVIDIAが提唱する『AI Factory』ではGPU利用率の最大化が重要だ。CDIはGPUリソースをオンデマンドで構成・再利用できるため、AI Factoryのインフラ効率向上に貢献できる。AI開発のおのおののステージに最適なGPUを混在させ、柔軟に使い分けられ、予算サイクルに応じて段階的にAI Factoryインフラを拡大し、そのリソースを集約して生かせるようになる」

CDIは物理的にGPUを集約した上で、リソースを動的に割り当てられる（提供：サーヴァンツインターナショナル）《クリックで拡大》

　このCDIを実現するハードウェアを提供するのがNVIDIAのパートナーでもある米LIQID社だ。サーヴァンツインターナショナルはLIQIDの国内唯一の販売代理店であり、NVIDIAのEliteパートナーでもある。

筐体1つで既存GPUをフル活用可能な「LIQID CDI」の仕組み

　LIQID CDIのハードウェア（拡張シャーシ）には最大30基のGPUを搭載できる。30基のうち必要な数のGPUを必要な時間だけ各サーバに割り当てられ、また、30基全てを1台のサーバに割り当てることも可能だ（PCIeバス接続が可能なデバイスであればGPU以外のものも搭載可能）。

NVIDIA GPUをLIQID CDIで集約する場合の構成例。サーバ向けのNVIDIA GPUが新旧混在していても安定して動作する（提供：サーヴァンツインターナショナル）《クリックで拡大》

　GPUの物理的な移動やケーブル配線を変更することなく、これらプール化されたGPUリソースをオンデマンドで動的、かつ瞬時に割り当て・解放できるのは、専用の管理ソフトウェア「LIQID Matrix」による制御の恩恵だ。

　LIQID Matrixを介してGPUの配分を動的、かつ瞬時に変更できるため、例えば通常時には30基のGPUを4基ずつ5台のサーバに割り当てて運用しておき、負荷の重いワークロードを処理する際には全てのGPUを1台のサーバに割り当てるといった柔軟な使い方ができる。

　外部接続となるとI/O遅延がどうなるかが気になるところだが「BERTやResnet-50などのベンチマークでは数値的には極めて軽微であり、GPU内蔵型サーバと遜色のない性能が出ている。1CPUに対して20基以上のGPUを接続してもリニアに性能が伸びるスケーラビリティの高さもLIQID CDIの魅力だ」（古田氏）という。

　LIQID Matrixは管理コンソールから直接操作できる他、APIを介した操作も可能だ。オープンソースのジョブスケジューラ「Slurm」や「Kubernetes」環境に対応する。コンテナ単位で「いまは2基で十分だが次のワークロードからは4基のGPUを割り当てたい」といった動的制御や自動制御も可能なため、限られた貴重なGPU資源を時間単位で効果的に活用できる。

　従来はGPUを搭載しにくかった1UラックマウントサーバやブレードサーバなどにGPUを接続することも可能だ。AIエージェントなど、推論用途でのGPU活用においても選択肢が拡大することがメリットになるだろう。また、CPUのコア数ライセンス課金を採用するソフトウェアの実行環境としてもこの構成は有効だ。GPUの処理比重が大きい場合、できるだけ多数のGPUを単一サーバに集約することでコストパフォーマンスを最大化できる。

Metaや通信大手も注目　国内外で採用が進む

　LIQID CDIは国内外ですでに多くの採用実績がある。例えば、Metaは高精細VR環境の再構成およびレンダリング用途にLIQIDを活用し、シングルソケットサーバに20基のGPUを接続してマルチプロセッサ構成の複雑性を回避しつつ、必要なGPU処理能力を確保して運用している。

　国内通信大手もこの技術に注目する。最近ではモバイル通信網の基地局にAI処理機能を実装し、電波状況の自動最適化やエッジAIサービスの提供に活用しようという、いわゆる「AI-RAN」も話題になっている。実現に当たっては相当な数の基地局を網羅するためのGPUリソースをどのように配備すると最も効率的かを考慮する必要があるが、ピークが重ならない基地局間でGPUをタイムシェアして使用するなど、CDIならではの機能を用いてコストとサービス品質を高水準でバランスさせられる可能性も考えられる。

　サーヴァンツインターナショナルは、NVIDIAのソリューションプロバイダーとして、同社のGPUとLIQID CDIソリューションとを組み合わせて「NVIDIA GPU共用基盤」の国内展開に注力している。両社との技術的な連携はもちろん、同社内にも技術者を抱えており、導入支援・保守体制も整っている。ラボには評価用の実機もあり、PoC（技術検証）にも素早く対応できるという。

　先進的なモデルの開発など、大規模な学習処理が必要な場合はGPUの処理性能を最大限に引き出せるようトータルでチューニングが施されたAIサーバが最適な選択肢となる。一方で最近急速に利用が拡大するAIエージェントによる業務の自動処理など、推論処理が中心となるワークロードではもっと小回りの利くGPU搭載サーバを極力現場近くに配置したいといったニーズも高まってくる。

　LIQID CDIによってサーバとGPUを切り離し、動的に構成の変更を可能にすることで、ユーザーはニーズの変化に即応できる柔軟性や俊敏性を確保できるだろう。AI活用が本格化し、さまざまなワークロードをサポートする必要が高まってきた現在、新たなAI向けインフラの選択肢として、「NVIDIA GPU共用基盤」は検討すべきソリューションといえるのではないだろうか。

H200など600WクラスのNVIDIA GPUを最大10基搭載可能な拡張シャーシ EX-5410P（提供：サーヴァンツインターナショナル）《クリックで拡大》

Amazonギフトカードが当たる！アンケート実施中

本記事に関連して「GPU オンデマンド（GPU共有基盤）」についてのアンケートを実施しています。回答された方の中から抽選で10名様に、Amazonギフトカード（Eメールタイプ）3000円分をプレゼントいたします。当選者には、アイティメディアIDにご登録のメールアドレス宛にギフトをお送りします。当選者発表はギフトの送付をもってご連絡とさせていただきます。ぜひ下記アンケートフォームよりご回答ください。

ログイン または 会員登録（無料）いただくとアンケートフォームが表示されます。オレンジ色の「アンケートに回答する」ボタンからアンケート回答をお願いいたします。