「トークン単価は8割下がった。なのに請求額は増えた」――その“見えないAI浪費”の正体:Agent時代の必須知識 APIから読み解くAIの裏側(3)

AIのトークン単価が下がり続けてきたにもかかわらず、企業が支払うAIの請求額は増えている――。気付かないうちに膨らむ「トークン浪費」がなぜ起きるのかを考えます。

» 2026年10月06日 05時00分 公開

この記事は会員限定です。会員登録(無料)すると全てご覧いただけます。

 AIエージェントの一つ一つの動作を裏側で支えているのがAPIです。本連載の第1回と第2回では、AIエージェントが外部のサービスやデータにアクセスする際に使うAPIキーやアクセストークンなどの認証情報に焦点を当て、エージェントに“人間の鍵”をそのまま渡すことの危うさと対策を見てきました。

 ただし、鍵の管理はエージェント運用の入り口に過ぎません。それと同じくらい見落とされているのが、コストです。コストの問題は後から響いてきます。エージェントの一つ一つの動作はAPI呼び出しであり、その呼び出しはトークンを消費し、トークンはそのまま請求額になります。今回のテーマは、多くの現場で気付かないうちに膨らんでいる、「トークンの浪費」です。

「単価は下がった。なのに、請求は増えた」――その原因は?

 大規模言語モデル(LLM)のトークン単価は、2025年から2026年にかけて、おおよそ8割下がりました。競争と効率化によって、同じ処理にかかる費用はどんどん安くなっています。ところが、企業が支払うAIの請求額は、下がるどころか増えています。LLM APIへの支出は2025年に84億ドルを超え、なお倍増のペースにあると報告されています。

 この食い違いは、投資家からも指摘されてきました。米ベンチャーキャピタルのAndreessen Horowitz(アンドリーセン・ホロウィッツ)は、同じ性能を得るためのトークン単価が年におよそ10分の1のペースで下がり続けると分析しています。実際、GPT-3級の性能は、2021年に100万トークン当たり約60ドルだったものが、2024年後半には約0.06ドルまで下がりました。3年で1000分の1近くの下落です。ここまで安くなったのに、なぜ請求額の高さに頭を悩ませ続けることになるのでしょうか。

 答えは単純です。安くなった分、はるかに多く使ってしまうからです。1回の呼び出しが1円にも満たないなら、節約する動機は薄れます。開発者は検索を足し、文脈を長くし、多段のツール呼び出しや常駐エージェントを、気にせず増やしていきます。消費量の増加が、単価の下落を上回る。数十人で試験導入したはずが、月末の請求書は想定の3倍になっていた。珍しい話ではありません。これは価格の問題ではなく、ガバナンスの問題です。つまり、やるべきことは、単価表の数字を見比べることではなく、誰が何にどれだけ使っているかを把握し、無駄な消費に歯止めをかけることです。

単価は下がり請求は増える 単価は下がり請求は増える(提供:Postman)

なぜ、エージェントはこれほどトークンを費やすのか

 では、なぜAIエージェントは多くのトークンを消費するのでしょうか。鍵になるのは、支払いの単位が「トークン」ではなく、実質的に「タスク」だという点です。一問一答のチャットなら、消費は一度きりで小さく収まります。しかしエージェントは、計画を立て、ツールを呼び、返ってきた結果を読み、また計画を練り直す、というループを回します。1つのタスクを片づけるのに、モデルを数十回から200回近く呼ぶことも珍しくありません。

 Anthropicの研究によれば、エージェント型のワークフローは通常のチャットのおよそ4倍、複数のエージェントが連携する構成では15倍ほどのトークンを消費します。長時間動くエージェントでは、1つのタスクで数千万トークンに達する例も報告されています。しかも、会話履歴の再送が、見えにくい増加要因になります。20ターンのやりとりで、大きなシステムプロンプトを毎ターン送り直せば、当初は数百トークンだったセッションが1万トークンを優に超え、費用は回数に比例するのではなく、二次関数的に膨らんでいきます。同じ会話が長引くほど、一往復当たりのコストが重くなっていく計算です。

 単純化して考えてみましょう。5000トークンのシステムプロンプトを抱えたエージェントが10回のやりとりを重ね、毎回それを送り直せば、システムプロンプトだけで5万トークンに達します。同じ指示に、10回分の料金を払っていることになります。利用者から見れば一つの作業でも、課金の裏側では、同じ文脈が何度も読み直されています。

 さらに厄介なのは、AIの運用にかかるコストの大半が、モデルの請求書には直接表れないことです。ある分析では、本番運用のAIコストの約72%が、モデル利用料の外側、つまりオーケストレーション、リトライ、検索、可観測性といった周辺で発生しているとされます。請求書に載るトークン代は全体の一部に過ぎず、多くはその外側で発生しています。

AIコストの内訳 AIコストの内訳(提供:Postman)

 この状況を映すように、コストを管理する側も動き始めています。「FinOps」の普及や標準化を推進するFinOps Foundationの調査では、AIの支出を他の経費と切り分け、独立した管理対象として扱う組織の割合が、2024年の31%から2025年には63%へと倍増し、2026年には98%に達しました。AIコストは、もはや一部の技術者だけの関心事ではなく、経理が一つの費目として正面から向き合う対象になりました。

そのMCPツールが、気付かないうちに文脈を埋めている

 ここで、第2回で紹介した設計が、そのままコストの話につながってきます。前回、既存のREST APIをそのまま触らせるのではなく、MCPサーバでラップして公開する設計を紹介しました。ただし、素朴に全エンドポイントを1対1でツール化すると、そのツール定義そのものが、大量のトークンを消費します。

 数字にすると、その影響がはっきりします。GitHubの公式MCPサーバは、ツール定義を並べるだけで約4万2000トークンを消費します。このようなサーバを4つ、5つとつなげば6万トークンを超え、フロンティアモデルのコンテキスト枠(12万8000〜20万トークン)の3割から5割を、まだ何の仕事もしないうちからツールの説明文に明け渡すことになります。ブラウザ操作用のMCPサーバを1つ入れただけで、「Claude」の20万トークンのコンテキスト枠のうち2割余りがツール定義で埋まった、という報告もあります。

ツール定義がコンテキストを先に埋める ツール定義がコンテキストを先に埋める(提供:Postman)

 そして、これは費用だけの話ではありません。文脈が膨れると、モデルの推論そのものが劣化します。「GPT」や「Claude」「Gemini」を含む18のモデルを対象にしたある検証では、入力が長くなるほど、単純な課題でさえ精度が落ちることが一貫して観測されました。コンテキスト枠が広いからといって、その隅々まで均等に注意が向くわけではありません。必要な情報が大量の説明文に埋もれ、get_status、fetch_status、query_statusのように名前の似たツールを取り違える。多過ぎるツールは、エージェントを賢くするどころか、かえって鈍くします。

 裏返せば、ツールを絞り込むほど結果は良くなります。ある研究では、使うツールを必要なものだけ取り出す方式にしたところ、ツール選択の精度が3倍以上に上がり、プロンプトのトークンが半分以下に減りました。専門家の指摘も同じ方向です。多くのMCPサーバは、既存のAPIをほぼそのままツールに移しただけで、エージェント向けに設計されておらず、細かなAPI呼び出しを何段も重ねる操作は、一つの意図を表すツールの背後に隠すべきだ、というものです。

 なぜ、こうなりがちなのでしょうか。既存のOpenAPI仕様から機械的にMCPサーバを生成すれば、200個のエンドポイントは、そのまま200個のツールになります。手軽で、最初は動きます。しかしその手軽さが、そのまま文脈の肥大と選択ミスを招きます。自動生成は出発点としては便利でも、そのまま本番に出すものではありません。だからこそ、200近いエンドポイントを機械的にツール化するのではなく、エージェントが本当に使う操作だけを、意図(インテント)の単位で10〜30ほどに絞り込みます。「顧客を照会する」「注文を確定する」といった粒度に束ね、それ以外は見せない。トークンの浪費は、モデルの問題である前に、API設計の問題です。

 ここでも、APIをエージェントという新しい利用者に合わせて設計し直す、という視点が効いてきます。エージェントに渡すツールの一覧は、機能の網羅ではなく、タスクの設計として捉え直す必要があります。


 こうしたトークン消費が膨らむ原因を踏まえ、どのような対策が有効なのでしょうか。次回、トークン消費を抑制する5つのポイントを紹介します。

著者紹介

草薙 昭彦(くさなぎ あきひこ)

Postman株式会社 テクノロジーエバンジェリスト

東京大学大学院工学系研究科電子情報工学専攻修士課程修了。サン・マイクロシステムズ、オラクル、EMCを経て近年は外資系ITスタートアップでサービス導入や啓蒙活動に従事。デジタルツインやデータビジュアライゼーションに関心があり、制作した交通デジタルツインアプリ「Mini Tokyo 3D」は数々の賞を受賞。


Copyright © ITmedia, Inc. All Rights Reserved.

アイティメディアからのお知らせ

スポンサーからのお知らせPR

注目のテーマ

ID・パスワードから始める「引き算」のセキュリティ〜ゼロトラスト狂騒曲の果てに
その「AIコーディング」は本当に必要か?
Microsoft & Windows最前線2026
4AI by @IT - AIを作り、動かし、守り、生かす
ローコード/ノーコード セントラル by @IT - ITエンジニアがビジネスの中心で活躍する組織へ
Cloud Native Central by @IT - スケーラブルな能力を組織に
システム開発ノウハウ 【発注ナビ】PR
あなたにおすすめの記事PR

RSSについて

アイティメディアIDについて

メールマガジン登録

@ITのメールマガジンは、 もちろん、すべて無料です。ぜひメールマガジンをご購読ください。