Ce qui se passe dans les millisecondes qui suivent un clic sur payer
Traduit de l'original anglais par IA. Voir en anglais
Cet exemple de Databricks App montre comment obtenir une évaluation de la fraude en temps réel et à faible latence en associant le Model Serving optimisé pour les routes à Lakebase Postgres pour les recherches de feature en ligne. Lors d'un test de charge de 5 000 requêtes, cette architecture a atteint des latences de bout en bout de 27 ms au p50 et de 37 ms au p95, tout en maintenant un taux de réussite de 100 %.
* Un exemple de Databricks App (FastAPI + React) qui évalue la fraude sur les transactions par carte bancaire en temps réel, en utilisant le Model Serving optimisé pour les routes pour une inférence à faible latence et Lakebase Postgres pour les recherches de feature et de profil en ligne. * Une inférence rapide ne suffit pas. L'application associe le Model Serving optimisé pour les routes à Lakebase, en y ajoutant du pooling de connexions, de la rotation de jetons OAuth et des modèles d'autoscaling qui maintiennent la latence stable sous la charge. * Sur 5 000 requêtes, le point de terminaison optimisé pour les routes a répondu en 27 ms au p50 et 37 ms au p95 de bout en bout, avec des recherches de feature Lakebase médianes de 8,9 ms et un taux de réussite de 100 %, bien en deçà des budgets de latence autorisés pour le passage en caisse.