Como eliminamos US$ 1 milhão por ano em gastos desperdiçados com agentes de IA em uma hora
Traduzido do original em inglês por IA. Ver em inglês
Chamadas de ferramentas MCP quebradas e novas tentativas silenciosas podem desperdiçar discretamente mais de US$ 1 milhão anualmente em tokens e horas de engenharia em frotas de agentes de IA. O rastreamento de chamadas de ferramentas com o Unity Gateway e a análise de gastos com o Genie One permitem que as equipes implantem correções rapidamente e projetem ferramentas que lidam de forma elegante com entradas de LLM ambíguas.
• Chamadas de ferramentas MCP quebradas custam dinheiro real silenciosamente. Em nossa frota de agentes, sete pequenos bugs de servidor MCP queimaram cerca de US$ 499 mil/ano em tokens e ~12.000 horas de engenharia/ano (~US$ 1,2 milhão perdidos) porque os agentes tentam novamente em silêncio em vez de expor as falhas. • Observe e depois corrija. O Unity Gateway rastreia cada chamada de ferramenta MCP, enquanto o Genie One permite que as equipes descubram as maiores fontes de gastos desperdiçados em IA usando linguagem natural. Nossos agentes de código entregaram as correções em uma hora do início ao fim. • Projete ferramentas para a forma como os LLMs realmente as utilizam. Os modelos fazem suposições sobre entradas ambíguas, portanto, as ferramentas devem lidar com variações graciosamente em vez de travar em entradas inesperadas.