Meta、商用利用可能なオープンソースLLM「Llama 2」を提供開始 「MPT」や「Falcon」を上回る成績：MicrosoftがLlama 2の優先パートナーに

Metaは、次世代のオープンソース大規模言語モデル「Llama 2」を提供開始した。研究および商用に無料で利用できる。

[＠IT]

　Metaは2023年7月18日（米国時間）、次世代のオープンソース大規模言語モデル（LLM）「Llama 2」の提供開始を発表した。研究および商用向けに無償で提供されている。

　Llama 2は、同社が2023年2月に研究者向けに公開し、高い需要がある「Llama 1」の次期バージョン。開発者や組織が生成AIを活用したツールや体験を構築できるように設計されており、70億、130億、700億パラメーターの3つのサイズのモデルがある。

　公開されているオンラインデータソースを用いて、Llama 1より40％多い2兆トークンで事前にトレーニングされており、コンテキスト長はLlama 1の2倍の4096トークンとなっている。

　チャットやQ&Aなどの対話アプリケーション用に、これらをファインチューニングしたモデル（Llama-2-chat）も用意されている。これらは、公開されているインストラクションデータセットと、人間による100万以上のアノテーションでトレーニングすることで、有用性と安全性が確保されている。

　Llama 2は、推論、コーディング、習熟度、知識テストなどを含む外部のさまざまなベンチマークで、「MPT」や「Falcon」といった他のオープンソース言語モデルを上回る成績を上げている。

　Llama 2の提供開始と合わせて、MetaとMicrosoftが長年のパートナーシップを拡大し、MicrosoftがLlama 2の優先パートナーとなったことも発表された。MetaとMicrosoftは、AIとその利点を民主化するというコミットメントを共有している。

　「Microsoft Azure」の顧客は、Azure上でLlama 2モデルをより簡単に、より安全に微調整し、デプロイできるようになった。さらに、LlamaはWindows上でローカルに動作するように最適化される。Windows開発者は、「ONNX Runtime」を通じてDirectML実行プロバイダーをターゲットにすることでLlamaを使用できるようになり、アプリケーションに生成AI体験をもたらすシームレスなワークフローが可能になると、Microsoftは説明している。

責任あるオープンアプローチ

　Metaは、今日のAI技術に対するオープンイノベーションのアプローチを支持し、技術、学術、政策にまたがる幅広い企業や人々の支援を受けて、Llama 2へのアクセスをオープンにしている。AIが社会に大きな進歩をもたらす一方で、その使用には潜在的なリスクが伴うという認識の下で、責任あるAI開発に取り組んでおり、Llama 2利用者も同様に、責任ある利用を行えるように、以下のような取り組みを進めている。

レッドチーム演習

　レッドチーム演習による安全性のテストとそれに基づくファインチューニングを継続的に行い、モデルを更新していく。

責任ガイド

　LLMを用いた開発を責任ある方法で行うためのベストプラクティスを提供する開発者向けリソースとして、このガイドを作成した。

利用規定

　これらのモデルが公正に、責任を持って使用されることを保証するために、特定の使用例を禁止するポリシーを設けている。

　この責任ガイドと利用規定は、Llama 2のダウンロード時に入手するパッケージに、モデルのコードや重み、ユーザーガイドなどとともに含まれている。

　またMetaは、Llama 2などのモデルがどのように機能し、どのように改善される可能性があるかについてフィードバックを得るために、「オープンイノベーションAI研究コミュニティー」「Llamaインパクトチャレンジ」「生成AIコミュニティーフォーラム」といった新たな取り組みも行っている。