Google Cloud、低レイテンシのハードウェアトランスポート「Falcon」を公開:AI主導の今後のネットワーキング要件に対応
Google Cloudは、信頼性の高い低レイテンシのハードウェアトランスポート「Falcon」を、Open Compute Project(OCP)を通じてイーサネットエコシステムに公開した。
Google Cloudは2023年10月18日(米国時間)、信頼性の高い低レイテンシのハードウェアトランスポート「Falcon」を、Open Compute Project(OCP)を通じてイーサネットエコシステムに公開したと発表した。
ハードウェア支援型トランスポートレイヤーであるFalconは、本番環境で実証済みの以下のような技術を利用して、ソフトウェアのみのトランスポートよりも優れたパフォーマンスを実現する。
- Carousel:エンドホストでのスケーラブルなトラフィックシェーピング
- Snap:ホストネットワーキングへのマイクロカーネルアプローチ
- Swift:データセンターにおける輻輳(ふくそう)制御のためにシンプルで効果的な遅延を実現
- RACK-TLP:TCP用のRACK-TLP損失検出アルゴリズム
- PLB:ネットワーク負荷分散のためにシンプルで効果的な輻輳信号を生成
- CSIG:輻輳信号を生成
下図は、Falconの各レイヤーと関連機能を示している。上位レイヤープロトコル(ULP)のRDMAとNVM Expressが示されているが、Falconは、エコシステムのニーズに応じて拡張し、ULPを追加することもできる。
Falconの下位レイヤーは、広帯域でありながら損失の多いイーサネットデータセンターネットワークで低レイテンシを実現するために、3つの重要な洞察を用いている。きめ細かなハードウェア支援によるラウンドトリップタイム(RTT)測定と、フローごとのハードウェア強制による柔軟なトラフィックシェーピング、高速かつ正確なパケット再送信が、マルチパス対応でPSPで暗号化されたFalcon接続と組み合わされている。
Falconはこの基盤の上で、パフォーマンス要件やアプリケーションのセマンティクスが大きく異なるULPをサポートできるマルチプロトコルトランスポートとして、一から設計されている。ULPマッピングレイヤーは、InfiniBand Verbs RDMAおよびNVMe ULPとの互換性を標準で提供するだけでなく、柔軟な順序付けセマンティクスや優れたエラー処理など、ウェアハウススケールのアプリケーションに不可欠なイノベーションも含んでいる。
ハードウェアとソフトウェアは、プログラマビリティと継続的なイノベーションのための柔軟性を維持しながら、高メッセージレート、低レイテンシ、高帯域幅という求められる特性を達成するために、協調して動作するように設計されている。
Falconは、イーサネットがIT業界で中心的な役割を果たし続けていることを反映しており、柔軟性と拡張性に加え、ウェアハウススケールで予測可能な高パフォーマンスを実現することを目指していると、Google Cloudは説明している。
大規模なAI(人工知能)/機械学習(ML)トレーニングやハイパフォーマンスコンピューティング(HPC)のような新しいユースケースにより、要求の厳しいワークロードがますます増大する中、Google Cloudは、コミュニティーや業界パートナーと協力し、イーサネットをモダナイズすることで、AI主導の未来のネットワーキング要件に応えていくと述べている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
Meta、商用利用可能なオープンソースLLM「Llama 2」を提供開始 「MPT」や「Falcon」を上回る成績
Metaは、次世代のオープンソース大規模言語モデル「Llama 2」を提供開始した。研究および商用に無料で利用できる。軽量動作も可能なオープンソースの大規模言語モデル「Falcon」が登場
UAEのTechnology Innovation Instituteは、Apache-2.0ライセンスの下でリリースした言語モデル「Falcon」について公式ブログで紹介した。Google Cloud、PostgreSQL互換DBサービスのダウンロード版「AlloyDB Omni」を正式リリース
Google Cloudは、フルマネージドのPostgreSQL互換データベースサービス「AlloyDB for PostgreSQL」のダウンロード版である「AlloyDB Omni」の一般提供を開始した。