“すぐに買えない最新GPU”なんて実は要らない――現実解は「再利用」か?:GPUの調達難を乗り越えるための判断基準とは(2/2 ページ)
調達が難しくなる最新GPU。それはユーザー企業が本当に必要としているものなのか。用途によっては、最新GPU以外でもニーズを満たせる可能性がある。その具体的な選択肢と、採用時に検討すべき点とは。
旧世代GPUはどこまで使える? 導入前に見極めたい条件
旧世代GPUを活用する上では、GPUが搭載するメモリ(VRAM)の容量が制約になることがある。Raplase RCAは、GPUメモリとサーバ内のメモリ(ホストメモリ)を連携させ、VRAMだけでは容量が足りないAIモデルも実行できるようにする。加えてGPUが計算を実行していない時間を減らし、稼働効率を高める。これらの実現には、富士通のGPU稼働率向上技術「FUJITSU AI Computing Broker」(FUJITSU ACB)と、エクストリームーD独自のチューニング技術を活用する。
こうした工夫で旧世代GPUの活用範囲は広がる一方、GPUの世代による違いそのものを解消できるわけではない。柴田氏が指摘するように、GPUは世代によってアーキテクチャや計算特性に違いがある。FUJITSU ACBも、GPUの世代間で異なる命令セットやアーキテクチャを再現する技術ではない。旧世代GPUを活用する際は、VRAMの容量や稼働効率だけではなく、実行する処理がそのGPUの特性に適しているかどうかも考慮する必要がある。
GPUサーバを再利用する場合、機器の故障や寿命の考慮も欠かせない。「再利用するGPUサーバは、新品より寿命が短い可能性がある」と柴田氏は認めた上で、Raplase RCAではデータセンター内に一定割合の予備機を確保し、障害が発生した場合に自動的に切り替える仕組みを導入したと説明する。これによりGPUサーバが故障しても、サービスが停止しないように備えるという。
予備機への切り替えは、当然ながら故障そのものを防ぐものではない。あらかじめ調達できていなければ、故障時に同じ構成の予備機を用意できない可能性がある。TES-AMM JAPANの代表取締役である小沢国彦氏は、今後「NVIDIA H100 GPU」をはじめとする旧世代GPUを搭載した機器が、国内外で増えるとの見通しを示す。ただし再利用できる機器の供給は、企業やデータセンターの更新動向に左右される。必要なGPUを常に確保できるとは限らない点に留意が必要だ。
新世代のGPUが登場しても、旧世代のGPUがすぐに実用性を失うとは限らない。用途によっては旧世代GPUを継続して使うことが目的にかなう場合があり、その際は役目を終えたGPUサーバの再利用が選択肢となる。AIインフラを調達する際は、GPUの世代や性能だけではなく、実行するAIモデルや処理に必要な性能、調達にかかる期間、故障時の予備機の確保なども踏まえて、必要なGPUをどのように確保し、運用するかを検討することが重要だ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
富士通では「Copilot」10万ライセンスの利用率が“9割超え” 「導入したけど使われない」をどう防いだ?
全社にAIを導入しても、実際に使われなければ効果は生まれない。「Microsoft 365 Copilot」を社内導入した富士通は、どのようにしてAI活用を全社に定着させ、日常業務の変革につなげたのか。
第一生命が独自AIを3万5000人規模で活用 「“使えない”と思われた社内システムは終わる」問題をどう回避した?
開発した社内システムを現場に定着させるには、何が必要なのか。第一生命は営業支援AI「デジタルバディ」を開発し、3万5000人規模での活用にまで広げた。定着につなげた開発プロセスの工夫とは。
GPUを“遊ばせない”――銀行が「アクセラレータ1万枚」の利用率を35%→60%超に、その工夫とは?
GPUなどのアクセラレータカードを約1万枚導入した中国の招商銀行では、その利用率をどう高めるかが課題になっていた。複数のOSSを組み合わせて、利用率を大幅に引き上げたという。その具体的な方法とは。