New Relic、GPT APIの使用量、コスト、パフォーマンスを監視できる「OpenAI Observability」を提供開始：GPT-4もサポート

New Relicは2023年3月15日、「OpenAI Observability（OpenAIオブザーバビリティ）」の提供を開始した。GPTのAPIを使うアプリケーションにおいて、パフォーマンスの最適化、コスト削減、結果の質の向上を実現できるという。

[＠IT]

　オブザーバビリティ（可観測性）プラットフォームを提供するNew Relicは2023年3月15日（米国時間）、OpenAIが提供する「GPT」シリーズのAPIで構築されたアプリケーションを監視する「OpenAI Observability（OpenAIオブザーバビリティ）」の提供を開始した。

　OpenAIオブザーバビリティは、先日リリースされたGPT-4を含め、現時点で全てのバージョンのGPTをサポートする。

　追加ライセンス購入の必要はなく、New Relicアカウント（期間無制限の無料枠）に登録すると、「New Relic Instant Observability（I/O）」でOpenAIオブザーバビリティを利用できる。

「OpenAIオブザーバビリティ」のダッシュボード（提供：New Relic）

　ユーザーは数行のコード追加で、OpenAI補完クエリを監視できる。具体的には、「monitor」モジュールを「nr_openai_monitor」ライブラリからインポートし、GPTのさまざまな主要パフォーマンスメトリクスを表示するダッシュボードを自動的に作成できる。パフォーマンスやコストメトリクスと同時にNew Relicの単一画面内でリアルタイムに追跡できるという。

　New RelicはOpenAIオブザーバビリティで可能になることを次のようにまとめている。

• プロンプトとレスポンスの分析：GPT APIの使用量、スピード、有効性に関する有意義な情報を提供し、ユーザーが機械学習モデルでより良い結果を得られるように導く
• コストの監視：OpenAIの「Davinci」モデルの使用コストはすぐに加算されていくので、大規模運用が難しいが、OpenAIオブザーバビリティを使うことでGPT使用に関するリアルタイムでのコスト把握が可能となる
• パフォーマンスの最適化：平均応答時間やその他GPTリクエスト関連の主要パフォーマンスメトリクスに関するインサイトを可視化することで、使用状況を最適化する

　多くの企業が、ヘルプデスクのチケットやライブチャットログのサポート、コンテンツや画像の開発などにGPTを活用し始めている。New Relicは、OpenAIオブザーバビリティによってOpenAIの生データを取り込めるようになり、企業が「ChatGPT」といったOpenAIベースの技術を活用しやすくなるとアピール。また、New Relicに統合できるデータの種類が増えることで利便性が向上するとしている。