英語原文から AI が翻訳しました。 英語版を見る
AI Gatewayが予算ポリシーをサポートし、アラートとリクエスト制限でLLMの費用を管理できるようになりました。支出のしきい値を設定し、Webhookアラートを受け取り、予算超過時には自動的にリクエストを拒否できます。
MLflow AI Gatewayが予算ポリシーをサポートし、支出のしきい値を設定し、Webhookアラートを受け取り、予算超過時には自動的にリクエストを拒否できるようになりました。