現場で役立つ「AIインフラ」の基礎と運用

GPUの利用でサーバの消費電力と発熱が急激に増大し、冷却がAIインフラの重要な要素として浮上しています。AIサーバの発熱と冷却の基本を整理した上で、水冷や液浸といった新しい冷却技術の動向や、冷却方式を選択する際のポイントなどを解説します。

生成AIを自社環境で本格運用する際、最初に直面する可能性があるのが「インフラの壁」です。AIシステムの安定稼働や、性能確保のために押さえておくべきAIインフラの基本的な知識について、GPUサーバや冷却・電力設備、ストレージなどの観点から解説します。