Google Kubernetes Engine、1兆パラメーターのAIモデルに対応できるようにクラスタノード数を6万5000に拡大　実現するための技術とは？：今後も継続的にKubernetesへ投資予定

Google Cloudは、マネージドKubernetesサービス「Google Kubernetes Engine」がサポートするクラスタのノード数を1万5000から6万5000に拡大すると発表した。

» 2024年12月03日 08時00分公開

[＠IT]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

　Google Cloudは2024年11月14日（米国時間）、マネージドKubernetesサービス「Google Kubernetes Engine」（GKE）がサポートするクラスタのノード数を1万5000から6万5000に拡大すると発表した。Google Cloudは以下のように説明している。

　大規模言語モデル（LLM）の規模が拡大する中で、2024年現在のモデルは数千億のパラメーターに達し、最先端のものでは2兆に近づいている。計算能力の必要性はさらに高まることが予想される。実際、最新のアクセラレーターでこうした大規模モデルをトレーニングするには、既に1万ノードを超えるクラスタが必要になっている。

大規模のトレーニングや推論を実現

#CmsMembersControl .CmsMembersControlIn {width:100%;background:url(https://image.itmedia.co.jp/images/spacer.gif) #DDD;opacity:0.05;filter:progid:DXImageTransform.Microsoft.Alpha(Enabled=1,Style=0,Opacity=5);z-index:1;}

続きを閲覧するには、ブラウザの JavaScript の設定を有効にする必要があります。

Google Cloud、ローカルで生成AIモデルを簡単に動かせるサービスを発表
Google Cloudはエッジや企業・ローカルクラウドのデータセンターで、インターネットやGoogle Cloudへの接続なしに大規模言語モデルを動かせるソリューションを発表した。情報漏えいへの懸念やデータ主権に対応できるという。
「Kubernetes v1.31: Elli」公開　セキュリティ向上や運用の効率化につながる45の機能強化を発表
Kubernetesプロジェクトは、オープンソースのコンテナオーケストレーションプラットフォーム「Kubernetes」の最新バージョンである「Kubernetes v1.31」を公開した。
Kubernetesのオープンソース化から10年　Kubernetesの活用動向、現在の課題とは？　専門家527人が回答
Portworxと調査会社のDimensional Researchは共同で、Kubernetes専門家527人に対する調査結果をまとめたレポート「The Voice of Kubernetes Experts Report 2024」を発表した。