Wie wir innerhalb einer Stunde jährlich 1 Million US-Dollar an verschwendeten KI-Agenten-Ausgaben eliminiert haben
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
Fehlerhafte MCP-Tool-Aufrufe und stille Wiederholungsversuche können bei KI-Agenten-Flotten jährlich unbemerkt über 1 Million US-Dollar an Token- und Entwicklungskosten verschlingen. Das Tracing von Tool-Aufrufen mit Unity Gateway und die Kostenanalyse mit Genie One ermöglichen es Teams, schnell Korrekturen bereitzustellen und Tools so zu gestalten, dass sie mit mehrdeutigen LLM-Eingaben elegant umgehen.
• Fehlerhafte MCP-Tool-Aufrufe kosten unbemerkt echtes Geld. In unserer Agenten-Flotte verschlangen sieben kleine MCP-Server-Bugs ca. 499.000 $/Jahr an Token und rund 12.000 Entwicklerstunden/Jahr (entspricht ca. 1,2 Mio. $ Verlust), da Agenten Fehler schlucken und im Hintergrund stumm Wiederholungsversuche starten, anstatt Ausfälle sichtbar zu machen. • Erst beobachten, dann beheben. Unity Gateway zeichnet jeden MCP-Tool-Aufruf auf, während Genie One es Teams ermöglicht, die größten Quellen verschwendeter KI-Ausgaben über natürliche Sprache zu ermitteln. Unsere Coding-Agenten haben die Korrekturen von Anfang bis Ende innerhalb einer Stunde ausgeliefert. • Tools so designen, wie LLMs sie tatsächlich verwenden. Modelle raten bei mehrdeutigen Eingaben, daher sollten Tools Variationen robust verarbeiten, anstatt bei unerwarteten Eingaben abzustürzen.