エージェントの暴走で課金が止まらない｜検知と停止

AIエージェントが同じ手順を繰り返すループや、想定外の大量処理に入ると、人が止めるまでモデルの呼び出しが続き、課金も止まりません。夜間や休日に起きると、朝までに大きな費用になることがあります。対策は、事前に止める仕組み（上限）と、起きたときに気づく仕組み（急増の検知）、そして気づいた後に止める手順の3つを組み合わせることです。

この記事では、暴走の典型的なパターン、上限の設け方、急増の検知、対応の手順を説明します。費用の予測の考え方は「AIエージェントのコスト予測が難しい理由」、全体像は「AIエージェント時代のコスト管理 完全ガイド」を参照してください。

暴走の典型的なパターン

どのパターンも、1回の呼び出しは普通でも、回数が異常に多いのが特徴です。そのため、1回ごとの確認では気づけず、一定時間の合計で見る必要があります。

事前に止める仕組み——上限を設ける

ステップ数の上限は、最も効果的で簡単な対策です。上限に達したら処理を止め、人に引き継ぐか、失敗として記録します。上限の値は、代表的な依頼のステップ数の実績を見て、正常な依頼が止まらない程度に設定します。

プロバイダ側の上限機能は「最後の砦」です。組織やプロジェクトの単位で費用の天井を作れますが、上限に達すると正当な業務も止まるため、少し高めに置き、通常は次の「気づく仕組み」で対処します。

起きたときに気づく仕組み——急増の検知

上限を設けても、上限の範囲内で費用が想定より膨らむことはあります。そこで、時間単位の利用量を普段と比べて、急に増えたら通知する仕組みを持ちます。

エージェントの用途ごとに APIキーやプロジェクトを分けておくことが、検知の前提です。すべてのエージェントが1本のキーを共用していると、どのエージェントが暴走しているのかが分かりません。

気づいた後の対応手順

確認が取れないときは、調査より先に止めるのが原則です。止めて困るのは処理の遅れですが、止めなければ費用は増え続けます。キーを無効化する場合は、同じキーを使う他の処理も止まるため、用途ごとにキーを分けておくことがここでも効きます。

夜間・休日の体制

エージェントは人がいない時間にも動きます。

暴走を起こしにくくする設計

実例で考える（架空の例）

通知と止める手順がなければ、月曜の朝まで費用が増え続けていたことになります。検証用のキーを分けて低い上限を設けておけば、そもそも被害は小さく済みました。

よくある質問

Q. プロバイダ側の上限だけで十分ではありませんか？ 上限は被害の天井を作りますが、上限に達するまでは気づけず、達すると正当な業務も止まります。エージェント側のステップ数の上限と、急増の検知を組み合わせると、業務を止めずに早く気づけます。

Q. 急増の通知が多すぎて困ります。 比べる基準（過去の同じ時間帯の平均）と、下限の量、同じ通知を繰り返さない間隔を見直します。定期的な大量処理がある場合は、その時間帯の扱いを担当者と共有しておきます。

Q. エージェントの用途ごとにキーを分けると、キーが増えすぎませんか？ 用途（問い合わせ対応・調査・開発支援など）と環境（本番・検証）の単位で分ければ、数は管理できる範囲に収まることが多いです。キーの台帳と命名規則を決めておけば、増えても持ち主と用途を追えます。

まとめ

• エージェントの暴走は、1回ごとの呼び出しは普通でも回数が異常に多いのが特徴。一定時間の合計で見る
• 事前の上限（ステップ数・トークン・時間・同時実行数・費用）で被害に天井を作る。ステップ数の上限が最も効果的
• 時間単位の利用量を普段と比べる急増の検知で、上限の範囲内の膨張にも気づく。用途ごとにキーを分けるのが前提
• 気づいたら調査より先に止める。夜間・休日に誰が止めてよいかを決めておく

ManageAIの急増検知は、APIキーごとに直近1時間のトークン数を過去7日間の同じ時間帯の平均と比べ、下限トークン数で誤報を抑えたうえで、Slackとメールに通知します。エージェントの用途ごとにキーを分けておけば、どのエージェントの費用が急に増えたかをすぐに特定できます。モニター企業を募集中です。

関連記事

• AIエージェント時代のコスト管理 完全ガイド｜自律実行で膨らむ費用の統制
• AIエージェントのコスト予測が難しい理由｜ステップ数の不確実性

次に読む

• ManageAIの3種のアラート｜日次上限・月次予算・急増検知
• APIキー漏えいを検知する方法｜利用量の急増で気づく