LLMコスト最適化の基本｜トークン・モデル・呼び出しの3変数

LLM（大規模言語モデル）の費用は、トークン数 × モデルの単価 × 呼び出し回数の3つの変数で決まります。最適化とは、この3変数のどれか（または組み合わせ）を、業務の品質を保ったまま小さくすることです。やみくもに施策を入れるのではなく、自社の費用がどの変数で膨らんでいるかを見て、効く変数から手を付けます。

この記事では、3変数それぞれの減らし方、変数同士のトレードオフ、最適化の進め方と効果の確かめ方を説明します。具体的な施策の一覧は「生成AIコスト削減の方法｜効果順に並べた12施策」、全体像は「生成AIコスト削減 完全ガイド」を参照してください。

費用を決める3つの変数

費用 ＝ Σ（入力トークン × 入力の単価 ＋ 出力トークン × 出力の単価）× 呼び出し回数

入力と出力で単価が違い、多くのモデルでは出力の単価のほうが高く設定されています。また、キャッシュされた入力やバッチ処理には、別の単価が適用されることがあります。

変数1: トークン数を減らす

入力は「毎回同じものを送っていないか」、出力は「必要以上に長くないか」を見ると、減らせる部分が見つかりやすくなります。入力と出力のトークン数の比率を用途ごとに並べると、どちらを減らすべきかが分かります。

変数2: モデルの単価を下げる

単価は各社の改定で変わるため、切り替えを判断するときは、その時点の公式の料金ページで確認します。

変数3: 呼び出し回数を減らす

変数同士のトレードオフ

3変数は互いに影響します。1つを減らすと、別の変数が増えることがあります。

1つの変数だけを見て最適化すると、合計の費用が下がらないことがあります。施策を入れたら、3変数を掛け合わせた合計の費用で効果を確かめます。

最適化の進め方

効果を概算と実費で確かめる

施策の効果は、まずキー・用途ごとの概算（トークン数 × 単価）で確かめます。細かい単位で前後を比べられるためです。そのうえで、月次の実費（請求と一致する金額）でも全体が下がっているかを確認します。概算だけで判断すると、単価表の更新漏れやキャッシュの扱いの違いで、実際の請求とずれることがあります。

用途別に効きやすい変数

用途ごとに、どの変数が大きくなりやすいかを知っておくと、最初に試す施策を選びやすくなります。

よくある質問

Q. 3変数のうち、どれから手を付けるべきですか？ 費用の内訳を見て決めます。使われていない処理があれば呼び出し回数、高性能なモデルに偏っていれば単価、長い入力や出力が目立てばトークン数から手を付けます。

Q. 品質をどう確かめればよいですか？ 代表的な依頼を10〜20件選び、施策の前後で結果を比べます。業務の担当者に評価してもらうと、許容できる品質の線が分かります。

Q. 最適化の効果が請求額に表れません。 施策を入れた用途の費用が全体に占める割合が小さい、単価表の更新漏れで概算がずれている、同じ時期に別の用途の利用が増えた、といった原因が考えられます。用途・キーごとの概算の前後比較と、全体の実費の推移を分けて見ます。

Q. キャッシュとバッチ処理は併用できますか？ プロバイダや条件によって扱いが異なります。併用できるか、割引がどう適用されるかは、各社の公式の料金ページで確認してください。

まとめ

• LLMの費用は、トークン数 × モデルの単価 × 呼び出し回数の3変数で決まる
• トークン数は指示・資料・履歴・出力の長さで、単価はモデルの選択・キャッシュ・バッチで、回数は停止・集約・再利用・上限で減らす
• 変数同士はトレードオフがあり、1つだけを見ると合計が下がらないことがある
• 測る → 偏りを見つける → 試す → 確かめる の順に進め、効果は概算と実費の両方で確認する

ManageAIは、5プロバイダの利用量（入力・出力・キャッシュのトークン数）と費用を、APIキー・利用者・部署別に可視化し、CSVでモデル別の内訳も出力できます。3変数のどこで費用が膨らんでいるかを見つけ、施策の効果を概算と実費の両方で確かめられます。モニター企業を募集中です。

関連記事

• 生成AIコスト削減 完全ガイド｜モデル・プロンプト・アーキテクチャ・運用の4層
• 生成AIコスト削減の方法｜効果順に並べた12施策
• 高性能モデルを使いすぎている部署の見つけ方

次に読む

• OpenAI API料金の計算方法｜トークン数から月額を見積もる手順