Comment Databricks gère ses propres dépenses d'agents de codage avec Unity AI Gateway Budgets
Traduit de l'original anglais par IA. Voir en anglais
Databricks gère ses dépenses internes en IA en acheminant chaque agent de codage via Unity AI Gateway pour une application centralisée des politiques, un contrôle des dépenses et une observabilité unifiée. En associant des budgets quotidiens et mensuels distincts à des augmentations de budget en libre-service, ce modèle de gouvernance empêche les dérapages de coûts sans freiner la productivité des développeurs.
• Chez Databricks, nous gérons les dépenses en IA à grande échelle en acheminant chaque agent de codage via Unity AI Gateway, ce qui donne à nos équipes un point unique pour appliquer budgets, visibilité et politiques sur l'ensemble des modèles et des outils. • Nous équilibrons innovation et maîtrise des coûts grâce à des budgets quotidiens et mensuels distincts qui stoppent les dérapages des dépenses en IA, tout en gardant nos ingénieurs productifs grâce à des augmentations de budget en libre-service plutôt qu'à des goulots d'étranglement liés aux validations. • Ce modèle de gouvernance éprouvé combine contrôle centralisé des dépenses, observabilité unifiée et application de politiques fondée sur les données, afin de développer l'adoption de l'IA sans ralentir nos développeurs.