「トークン単価は8割下がった。なのに請求額は増えた」――その“見えないAI浪費”の正体:Agent時代の必須知識 APIから読み解くAIの裏側(3)
AIのトークン単価が下がり続けてきたにもかかわらず、企業が支払うAIの請求額は増えている――。気付かないうちに膨らむ「トークン浪費」がなぜ起きるのかを考えます。
AIエージェントの一つ一つの動作を裏側で支えているのがAPIです。本連載の第1回と第2回では、AIエージェントが外部のサービスやデータにアクセスする際に使うAPIキーやアクセストークンなどの認証情報に焦点を当て、エージェントに“人間の鍵”をそのまま渡すことの危うさと対策を見てきました。
ただし、鍵の管理はエージェント運用の入り口に過ぎません。それと同じくらい見落とされているのが、コストです。コストの問題は後から響いてきます。エージェントの一つ一つの動作はAPI呼び出しであり、その呼び出しはトークンを消費し、トークンはそのまま請求額になります。今回のテーマは、多くの現場で気付かないうちに膨らんでいる、「トークンの浪費」です。
「単価は下がった。なのに、請求は増えた」――その原因は?
大規模言語モデル(LLM)のトークン単価は、2025年から2026年にかけて、おおよそ8割下がりました。競争と効率化によって、同じ処理にかかる費用はどんどん安くなっています。ところが、企業が支払うAIの請求額は、下がるどころか増えています。LLM APIへの支出は2025年に84億ドルを超え、なお倍増のペースにあると報告されています。
この食い違いは、投資家からも指摘されてきました。米ベンチャーキャピタルのAndreessen Horowitz(アンドリーセン・ホロウィッツ)は、同じ性能を得るためのトークン単価が年におよそ10分の1のペースで下がり続けると分析しています。実際、GPT-3級の性能は、2021年に100万トークン当たり約60ドルだったものが、2024年後半には約0.06ドルまで下がりました。3年で1000分の1近くの下落です。ここまで安くなったのに、なぜ請求額の高さに頭を悩ませ続けることになるのでしょうか。
答えは単純です。安くなった分、はるかに多く使ってしまうからです。1回の呼び出しが1円にも満たないなら、節約する動機は薄れます。開発者は検索を足し、文脈を長くし、多段のツール呼び出しや常駐エージェントを、気にせず増やしていきます。消費量の増加が、単価の下落を上回る。数十人で試験導入したはずが、月末の請求書は想定の3倍になっていた。珍しい話ではありません。これは価格の問題ではなく、ガバナンスの問題です。つまり、やるべきことは、単価表の数字を見比べることではなく、誰が何にどれだけ使っているかを把握し、無駄な消費に歯止めをかけることです。
なぜ、エージェントはこれほどトークンを費やすのか
では、なぜAIエージェントは多くのトークンを消費するのでしょうか。鍵になるのは、支払いの単位が「トークン」ではなく、実質的に「タスク」だという点です。一問一答のチャットなら、消費は一度きりで小さく収まります。しかしエージェントは、計画を立て、ツールを呼び、返ってきた結果を読み、また計画を練り直す、というループを回します。1つのタスクを片づけるのに、モデルを数十回から200回近く呼ぶことも珍しくありません。
Anthropicの研究によれば、エージェント型のワークフローは通常のチャットのおよそ4倍、複数のエージェントが連携する構成では15倍ほどのトークンを消費します。長時間動くエージェントでは、1つのタスクで数千万トークンに達する例も報告されています。しかも、会話履歴の再送が、見えにくい増加要因になります。20ターンのやりとりで、大きなシステムプロンプトを毎ターン送り直せば、当初は数百トークンだったセッションが1万トークンを優に超え、費用は回数に比例するのではなく、二次関数的に膨らんでいきます。同じ会話が長引くほど、一往復当たりのコストが重くなっていく計算です。
単純化して考えてみましょう。5000トークンのシステムプロンプトを抱えたエージェントが10回のやりとりを重ね、毎回それを送り直せば、システムプロンプトだけで5万トークンに達します。同じ指示に、10回分の料金を払っていることになります。利用者から見れば一つの作業でも、課金の裏側では、同じ文脈が何度も読み直されています。
さらに厄介なのは、AIの運用にかかるコストの大半が、モデルの請求書には直接表れないことです。ある分析では、本番運用のAIコストの約72%が、モデル利用料の外側、つまりオーケストレーション、リトライ、検索、可観測性といった周辺で発生しているとされます。請求書に載るトークン代は全体の一部に過ぎず、多くはその外側で発生しています。
この状況を映すように、コストを管理する側も動き始めています。「FinOps」の普及や標準化を推進するFinOps Foundationの調査では、AIの支出を他の経費と切り分け、独立した管理対象として扱う組織の割合が、2024年の31%から2025年には63%へと倍増し、2026年には98%に達しました。AIコストは、もはや一部の技術者だけの関心事ではなく、経理が一つの費目として正面から向き合う対象になりました。
そのMCPツールが、気付かないうちに文脈を埋めている
ここで、第2回で紹介した設計が、そのままコストの話につながってきます。前回、既存のREST APIをそのまま触らせるのではなく、MCPサーバでラップして公開する設計を紹介しました。ただし、素朴に全エンドポイントを1対1でツール化すると、そのツール定義そのものが、大量のトークンを消費します。
数字にすると、その影響がはっきりします。GitHubの公式MCPサーバは、ツール定義を並べるだけで約4万2000トークンを消費します。このようなサーバを4つ、5つとつなげば6万トークンを超え、フロンティアモデルのコンテキスト枠(12万8000〜20万トークン)の3割から5割を、まだ何の仕事もしないうちからツールの説明文に明け渡すことになります。ブラウザ操作用のMCPサーバを1つ入れただけで、「Claude」の20万トークンのコンテキスト枠のうち2割余りがツール定義で埋まった、という報告もあります。
そして、これは費用だけの話ではありません。文脈が膨れると、モデルの推論そのものが劣化します。「GPT」や「Claude」「Gemini」を含む18のモデルを対象にしたある検証では、入力が長くなるほど、単純な課題でさえ精度が落ちることが一貫して観測されました。コンテキスト枠が広いからといって、その隅々まで均等に注意が向くわけではありません。必要な情報が大量の説明文に埋もれ、get_status、fetch_status、query_statusのように名前の似たツールを取り違える。多過ぎるツールは、エージェントを賢くするどころか、かえって鈍くします。
裏返せば、ツールを絞り込むほど結果は良くなります。ある研究では、使うツールを必要なものだけ取り出す方式にしたところ、ツール選択の精度が3倍以上に上がり、プロンプトのトークンが半分以下に減りました。専門家の指摘も同じ方向です。多くのMCPサーバは、既存のAPIをほぼそのままツールに移しただけで、エージェント向けに設計されておらず、細かなAPI呼び出しを何段も重ねる操作は、一つの意図を表すツールの背後に隠すべきだ、というものです。
なぜ、こうなりがちなのでしょうか。既存のOpenAPI仕様から機械的にMCPサーバを生成すれば、200個のエンドポイントは、そのまま200個のツールになります。手軽で、最初は動きます。しかしその手軽さが、そのまま文脈の肥大と選択ミスを招きます。自動生成は出発点としては便利でも、そのまま本番に出すものではありません。だからこそ、200近いエンドポイントを機械的にツール化するのではなく、エージェントが本当に使う操作だけを、意図(インテント)の単位で10〜30ほどに絞り込みます。「顧客を照会する」「注文を確定する」といった粒度に束ね、それ以外は見せない。トークンの浪費は、モデルの問題である前に、API設計の問題です。
ここでも、APIをエージェントという新しい利用者に合わせて設計し直す、という視点が効いてきます。エージェントに渡すツールの一覧は、機能の網羅ではなく、タスクの設計として捉え直す必要があります。
こうしたトークン消費が膨らむ原因を踏まえ、どのような対策が有効なのでしょうか。次回、トークン消費を抑制する5つのポイントを紹介します。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
「APIキーは.envに」はもはや通用しない AIエージェントの“内通者化”をどう防ぐ?
AIエージェントの活用が広がるのと同時に、APIキーやトークンなどの認証情報も増殖。セキュリティリスクは高まり、従来の認証情報の管理方法は限界を迎えつつあります。では、どう守ればよいのでしょうか。
「AIトークンコスト増を44%抑制」できる可能性も 高性能モデルの“使い過ぎ”、どう減らす?
生成AIやAIエージェントの活用が広がる中、企業のAI利用コストも膨らんでいる。AI活用を減らすことなく、増加するコストを抑えるには何を見直せばいいのか。アクセンチュアの調査から、その実態が見えてきた。
「トークン単価50%減でもAI請求額が跳ね上がる」なぜ? Uberは4月で年間予算が枯渇
IDCが生成AIやAIエージェントの利用拡大に伴うコスト管理の課題とガバナンスの重要性を解説した。トークン単価が下落しても予算超過が頻発する実態を指摘し、ワークロードごとの責任明確化を提言している。


