Wildwuchs bei Coding-Agenten mit dem MLflow AI Gateway steuern

Das MLflow AI Gateway stellt Coding-Agenten wie Cursor, Claude Code, Codex CLI, Gemini CLI und Pi einen einzigen, kontrollierten Endpunkt voran. Es leitet jede Anfrage anhand des Endpunktnamens weiter, wendet PII- und Sicherheits-Guardrails sowie eine Budgetrichtlinie an und protokolliert jeden Aufruf per Tracing mit Token-Zahlen sowie Agent-, Provider- und Endpunkt-Tags. Eine lauffähige Demo mit MLflow 3.17.1 zeigt die Zuordnung pro Provider und blockierte fehlerhafte Anfragen – und die Latenzkosten von Guardrails auf Basis von LLM judges.