「AIが遅い原因はGPUではない」 AIインフラの性能を決める“データの流れ”：第2章（2）ジョブスケーラーと分散ストレージの最適化（2/2 ページ）

[松浦淳（トゥモロー・ネット）, 編集：遠藤文康，＠IT]

分散ストレージとデータ配置がボトルネックを解消する

　こうした構造的な違いを踏まえると、AIインフラにおけるもう一つの重要な論点である「データ基盤」の役割も見えてきます。

　AIの学習や推論では、一つの処理で数TBから数十TB規模のデータを一括で扱うことは珍しくありません。このデータを複数のGPUノードから同時に高速に読み書きできる環境を整えなければ、どれだけGPUを増やしても性能は頭打ちになります。

　そのために必要となるのが、分散ストレージです。分散ストレージは、データを複数のノードに分散して配置し、並列にアクセスできるようにすることで、高いスループットと可用性を実現します。「Lustre」や「BeeGFS」といった並列ファイルシステム、「Ceph」などのオブジェクトストレージが代表的な技術です。

　しかし重要なのは、単に分散ストレージを導入することではありません。「どのデータを、どこに、どのタイミングで配置するか」という設計が、実際の性能を大きく左右します。

　例えば、GPUが直近で利用するデータをストレージプロトコル「NVMe」で接続する高速ストレージに配置し、過去データやアーカイブは大容量ストレージに分けるといった階層化を行うことで、I/O性能とコストのバランスを最適化できます。データのローカリティーを意識し、可能な限りGPUの近くにデータを配置することで、ネットワーク転送による遅延を抑えることも重要です。

「ハード」ではなく「仕組み」に投資するという発想

　AIインフラのボトルネックは、GPU、ストレージ、ネットワークが連動して初めて見えてきます。

　例えば、ストレージのI/Oが集中するタイミングでジョブを一斉に実行すれば、GPUは待機状態になります。逆に、GPUの稼働率を最大化しようとしてジョブを詰め込み過ぎれば、今度はデータ転送やネットワークがボトルネックになります。つまり、重要なのは「どのリソースが余っているか」ではなく、「システム全体としてどこが詰まっているか」を捉えることです。

　そのためには、ジョブスケジューラーとデータ基盤を個別に最適化するのではなく、両者を連携させ、データフロー全体を1つのシステムとして設計する必要があります。ジョブの実行タイミング、データの配置、I/Oの負荷を統合的に制御することで、初めて安定したスループットが実現されます。

　ここで改めて重要になるのが、第1回でも触れた「箱からシステムへ」という転換です。日本企業では、依然として「GPUをどれだけ確保できるか」「どのデータセンターを使うか」といったハードウェア中心の議論が先行しがちです。しかし、ここまで見てきた通り、AIインフラの性能を決めるのは、個々のハードウェアではなく、それらをどう連携させるかという“仕組み”です。

　米国のように、サービス提供を前提としてインフラが設計されている環境では、この仕組みの部分に対して継続的な投資と改善が行われています。一方で、日本ではハードウェア整備に投資が集中し、その上で動くミドルウェアや運用設計への投資が後回しになっているケースも少なくありません。

　その結果として、「リソースはあるのに使いこなせない」「PoCで止まる」といった状況が生まれています。

　AIインフラを本当に活用するためには、ハードウェアの導入だけでなく、それを動かすためのミドルウェア、データ基盤、運用設計まで含めて一体で考える必要があります。

まとめ：AIは「データと処理の流れ」で動く

　本稿では、「AIを止めない」ための具体的な技術として、ジョブスケーラーと分散ストレージを中心に解説してきました。

　AIを止めないために必要なのは、高性能なハードウェアだけではありません。それらを無駄なく使い続けるための「仕組み」と「設計思想」です。GPU、ストレージ、ネットワーク、そしてジョブの制御が連動し、初めてAIは安定して動き続けます。

---

　次回は、こうして構築された基盤の上で、AIをどのようにサービスとして運用し、継続的に改善していくのかという観点から、学習・推論・再学習をつなぐ運用設計とAIOpsについて解説します。

筆者紹介

松浦 淳（まつうら じゅん）　トゥモロー・ネット

富士通、シトリックス・システムズ・ジャパンで開発、サポート、ソリューションエンジニア業務に従事し、デル株式会社（現：デル・テクノロジーズ株式会社）の事業部長を経て現職に至る。米国シリコンバレーを中心とした海外スタートアップ企業の日本法人立ち上げも複数経験しており、日本市場への製品展開に豊富な経験を持つ。トゥモロー・ネットでは、ITエンジニアとしての経験を生かして企業経営全般に関与している。