Maîtriser la prolifération des agents de code avec MLflow AI Gateway
Traduit de l'original anglais par IA. Voir en anglais
MLflow AI Gateway place un point de terminaison unique et gouverné devant des agents de code comme Cursor, Claude Code, Codex CLI, Gemini CLI et Pi. Il route chaque requête selon le nom du point de terminaison, applique des garde-fous PII et de sécurité ainsi qu'une politique de budget, et trace chaque appel avec le nombre de tokens et des tags d'agent, de fournisseur et de point de terminaison. Une démo exécutable sur MLflow 3.17.1 illustre l'attribution par fournisseur et le blocage des requêtes problématiques, ainsi que le coût en latence des garde-fous reposant sur des LLM judges.
Une démonstration de l'utilisation de MLflow AI Gateway pour maîtriser la prolifération des agents de code.