“すぐに買えない最新GPU”なんて実は要らない――現実解は「再利用」か？：GPUの調達難を乗り越えるための判断基準とは（2/2 ページ）

[＠IT]

旧世代GPUはどこまで使える？　導入前に見極めたい条件

　旧世代GPUを活用する上では、GPUが搭載するメモリ（VRAM）の容量が制約になることがある。Raplase RCAは、GPUメモリとサーバ内のメモリ（ホストメモリ）を連携させ、VRAMだけでは容量が足りないAIモデルも実行できるようにする。加えてGPUが計算を実行していない時間を減らし、稼働効率を高める。これらの実現には、富士通のGPU稼働率向上技術「FUJITSU AI Computing Broker」（FUJITSU ACB）と、エクストリームーＤ独自のチューニング技術を活用する。

　こうした工夫で旧世代GPUの活用範囲は広がる一方、GPUの世代による違いそのものを解消できるわけではない。柴田氏が指摘するように、GPUは世代によってアーキテクチャや計算特性に違いがある。FUJITSU ACBも、GPUの世代間で異なる命令セットやアーキテクチャを再現する技術ではない。旧世代GPUを活用する際は、VRAMの容量や稼働効率だけではなく、実行する処理がそのGPUの特性に適しているかどうかも考慮する必要がある。

　GPUサーバを再利用する場合、機器の故障や寿命の考慮も欠かせない。「再利用するGPUサーバは、新品より寿命が短い可能性がある」と柴田氏は認めた上で、Raplase RCAではデータセンター内に一定割合の予備機を確保し、障害が発生した場合に自動的に切り替える仕組みを導入したと説明する。これによりGPUサーバが故障しても、サービスが停止しないように備えるという。

　予備機への切り替えは、当然ながら故障そのものを防ぐものではない。あらかじめ調達できていなければ、故障時に同じ構成の予備機を用意できない可能性がある。TES-AMM JAPANの代表取締役である小沢国彦氏は、今後「NVIDIA H100 GPU」をはじめとする旧世代GPUを搭載した機器が、国内外で増えるとの見通しを示す。ただし再利用できる機器の供給は、企業やデータセンターの更新動向に左右される。必要なGPUを常に確保できるとは限らない点に留意が必要だ。

　新世代のGPUが登場しても、旧世代のGPUがすぐに実用性を失うとは限らない。用途によっては旧世代GPUを継続して使うことが目的にかなう場合があり、その際は役目を終えたGPUサーバの再利用が選択肢となる。AIインフラを調達する際は、GPUの世代や性能だけではなく、実行するAIモデルや処理に必要な性能、調達にかかる期間、故障時の予備機の確保なども踏まえて、必要なGPUをどのように確保し、運用するかを検討することが重要だ。