「専門業務向けLLM」の構築支援サービス 日立製作所が提供開始：生成AIへの投資負荷を軽減

日立製作所は、専門的な業務に適したLLMの構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築、運用を担う「生成AI業務適用サービス」の提供を2024年10月1日に開始する。

[＠IT]

　日立製作所は2024年8月29日、専門的な業務に適したLLM（大規模言語モデル）の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築、運用を担う「生成AI（人工知能）業務適用サービス」を同年10月1日に提供開始すると発表した。同社は「生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備、運用といった顧客負荷を減らす」としている。

「業務特化型LLM構築・運用サービス」「生成AI業務適用サービス」の概要図（提供：日立製作所）

「専門業務向けLLM」をどう作り、どう使うのか？

　業務特化型LLM構築・運用サービスは、顧客の業務に適した規模、精度のLLMを構築するサービス。業務知識として企業が持つ固有のデータを汎用（はんよう）LLMに学習させることで、顧客の業務に適したLLMを構築し、継続的に改善する。日立製作所のLLMエンジニアが学習に必要な知識データや適切な汎用LLMを選定し、過学習による正答率の低下を防ぎながら専門知識を学習させ、適切な規模と回答精度のLLMを構築するという。

　生成AI業務適用サービスは、構築したLLMやそれを組み込んだ実行環境を、構築、運用するサービス。学習済みデータの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択でき、オンプレミス環境での運用にも対応している。LLMを使った生成AIアプリケーションの開発や「汎用LLMと業務特化型LLMをどう使い分けるか」といった相談にも対応する。

　日立製作所によると、生産性向上や顧客体験の改善などを目的に生成AIの活用を試行している企業はあるが、一般的な生成AIでは専門性の高い業務に必要なレベルの回答が得られない場合が多い。加えて、ビジネス環境の変化や技術の進歩に対応するには継続的な学習が不可欠で、生成AI基盤の整備や専門人材の確保など、投資負荷が大きいことが生成AIの業務適用の障壁となっているという。同サービスはこうした課題を解決するのが目的だ。