Comment nous avons éliminé 1 million de dollars de dépenses gaspillées en agents IA en une heure
Traduit de l'original anglais par IA. Voir en anglais
Les appels d'outils MCP défectueux et les nouvelles tentatives silencieuses peuvent gaspiller discrètement plus d'un million de dollars par an en jetons et en heures d'ingénierie dans les flottes d'agents IA. Le traçage des appels d'outils avec Unity Gateway et l'analyse des dépenses avec Genie One permettent aux équipes de déployer rapidement des correctifs et de concevoir des outils qui gèrent élégamment les entrées LLM ambiguës.
• Les appels d'outils MCP défectueux coûtent cher en toute discrétion. Dans notre flotte d'agents, sept petits bugs de serveur MCP ont brûlé environ 499 000 $/an en jetons et environ 12 000 heures d'ingénierie par an (soit environ 1,2 million de dollars perdus) parce que les agents réessaient silencieusement au lieu de faire remonter les échecs. • Observer, puis corriger. Unity Gateway trace chaque appel d'outil MCP, tandis que Genie One permet aux équipes de repérer les plus grandes sources de dépenses IA gaspillées à l'aide du langage naturel. Nos agents de code ont déployé les correctifs en une heure du début à la fin. • Concevoir des outils adaptés à la manière dont les LLM les utilisent réellement. Les modèles font des suppositions sur les entrées ambiguës, les outils doivent donc gérer les variations avec élégance plutôt que de planter sur des entrées inattendues.