LY Corporationにおけるエンタープライズ規模のMLflow運用とセキュリティ実践

LY Corporationは、Kubernetes上でマネージドなMLflowアーキテクチャを導入し、厳格なデータ分離を維持しながら40以上のサービスで1日あたり60万件超のリクエストを処理しています。AthenzサイドカープロキシとSPIFFEベースのmTLSによる自動化されたOAuth 2.0認証を活用することで、オープンソースのMLflowを改変することなく、トレーニングポッドからのマシン間通信をセキュアに保護しています。