ニュース
Google、GPUを使わずCPUだけで生成AIアプリを開発する方法を解説:オープンソースツール「localllm」を利用
Google Cloudは、Google Cloudのフルマネージド開発環境「Cloud Workstation」や「クオンタイズドモデル(量子化されたモデル)」と、新しいオープンソースツール「localllm」を組み合わせることで、GPUを使わずに、LLM(大規模言語モデル)ベースのAIアプリケーションを開発する方法を公式ブログで紹介した。
Google Cloudは2024年2月7日(米国時間)、Google Cloudのフルマネージド開発環境「Cloud Workstation」や「クオンタイズドモデル(量子化されたモデル)」と新しいオープンソースツール「localllm」といった一般に利用可能なリソースを組み合わせることで、GPUを使わずに、LLM(大規模言語モデル)ベースのAI(人工知能)アプリケーションを開発する方法を公式ブログで紹介した。
Google Cloudは、「AIを取り巻く環境は変化が速く、開発者は、LLMベースのAIアプリケーションを開発する際にさまざまな課題に直面する。特に、これまでLLMの実行に必要とされてきたGPUの不足は、大きなハードルとなっている」との認識を示す。
Copyright © ITmedia, Inc. All Rights Reserved.