AI機能のコスト上限を設計するチェックリスト

呼び出しごと

• すべての呼び出しに、出力の長さの上限を設定しているか
• 入力の大きさを数えて、上限を超えたら切り詰める・断る処理があるか
• リトライに回数の上限と、間隔を空ける仕組みがあるか
• エージェントに、ステップ数や1タスクあたりの使用量の上限があるか

利用者ごと

• 1人（またはキー・テナント）あたりの1日の上限を決めたか
• 上限は、普段の利用を見たうえで、邪魔しない高さに置いたか
• 上限に当たった人に、理由と戻る時刻が表示されるか
• 必要な人が上限を引き上げてもらえる道があるか
• 外部公開しているなら、短い時間あたりの回数制限もあるか

機能全体

• 応答のトークン数から、アプリ側で使用額を積み上げているか
• 日次の上限も置いているか（月次だけになっていないか）
• 50％・80％など、止まる手前で気づける段があるか

提供元側

• 月の上限と使用額の通知を設定したか（通知先は2人以上か）
• 「止まる」のか「通知だけ」なのか、反映の遅れを公式ドキュメントで確認したか
• APIキーを機能ごと・環境ごとに分けているか

止まったとき・止めるとき

• 上限に当たったときの振る舞い（軽いモデル・キュー・キャッシュ・正直に伝える）を決めたか
• 上限で止まったことが担当者に届くか
• 機能ごとにAI呼び出しを止められるスイッチがあるか
• 誰が止めていいかを、先に合意しているか