AWSが“民主化”する生成AIトレンド「蒸留」とは

AWSは生成AIにおけるモデルの蒸留を容易にできるサービス、「Amazon Bedrock Model Distillation」を、2024年12月に発表した。あらためて、蒸留とは何なのだろうか？　AWSのアプローチは他社とどう違うのだろうか？

[三木泉，＠IT]

　Amazon Web Services（AWS）は2024年12月に開催したイベント「AWS re:Invent 2024」で大量の発表を行った。注目点の一つは生成Ai（人工知能）における“蒸留（distillation）”への対応だ。

　AWSは生成AIモデルファミリー「Amazon Nova」を発表した。このうち「Amazon Nova Micro」「Amazon Nova Lite」「Amazon Nova Pro」については発表時に一部リージョンで提供を開始、最上位モデルの「Amazon Nova Premier」については2025の早い時期に利用できるようにするという。

　NovaモデルでAWSは、他社の同等モデルと比較した利用料金の安さをアピールしている。だが、「ユースケースに応じて選べるコストパフォーマンスの高いLLM（大規模言語モデル）を用意した」というだけではない。MicroとLiteは蒸留の生徒モデル、ProとPremierについては教師モデルとしての利用を想定している。

　ProについてAWSは、「蒸留によってAmazon Nova Micro and Liteをカスタマイズするための教師モデルとしての役割も果たせる」と説明し、Premierについては「当社における性能の最も高いマルチモータルモデルで、複雑なリーズニングのタスクを実行するとともに、カスタムモデルの蒸留のための最高の教師となる」としている。

　また、生成AI基盤の「Amazon Bedrock」では、「Amazon Bedrock Model Distillation」という蒸留対応機能をプレビューとしてリリースした。蒸留のプロセスを自動化し、シンプル化して、専門家でなくても使えるようにしている。