← 전체 뉴스
MLflow Blog2026년 11월 3일
MLflow AI Gateway로 코딩 에이전트 난립 관리하기
영어 원문을 AI가 번역했습니다. 영어로 보기
요약
MLflow AI Gateway는 Cursor, Claude Code, Codex CLI, Gemini CLI, Pi 같은 코딩 에이전트 앞에 거버넌스가 적용된 단일 엔드포인트를 둡니다. 각 요청을 엔드포인트 이름으로 라우팅하고, PII 및 안전성 가드레일과 예산 정책을 적용하며, 모든 호출을 토큰 수와 에이전트·프로바이더·엔드포인트 태그와 함께 트레이싱합니다. MLflow 3.17.1에서 실행 가능한 데모를 통해 프로바이더별 사용량 귀속, 잘못된 요청 차단, 그리고 LLM judges 기반 가드레일의 지연 시간 비용을 확인할 수 있습니다.
MLflow AI Gateway를 사용해 코딩 에이전트 난립을 관리하는 방법을 보여 주는 데모입니다.