Was in den Millisekunden nach dem Tippen auf „Bezahlen“ passiert
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
Diese Databricks App-Beispielanwendung zeigt, wie sich durch die Kombination von routenoptimiertem Model Serving mit Lakebase Postgres für Online-Feature-Lookups eine Echtzeit-Betrugsbewertung mit extrem niedriger Latenz realisieren lässt. Unter einem Lasttest von 5.000 Anfragen erreichte diese Architektur End-to-End-Latenzen von 27 ms bei p50 und 37 ms bei p95 – bei einer Erfolgsquote von 100 %.
* Eine Databricks App-Beispielanwendung (FastAPI + React), die Kreditkartentransaktionen in Echtzeit auf Betrug bewertet. Sie nutzt routenoptimiertes Model Serving für Inferenzen mit niedriger Latenz und Lakebase Postgres für Online-Feature- und Profil-Lookups. * Schnelle Inferenz allein reicht nicht aus. Die App kombiniert routenoptimiertes Model Serving mit Lakebase und nutzt Connection Pooling, OAuth-Token-Rotation sowie Autoscaling-Muster, um die Latenz auch unter Last stabil zu halten. * Bei 5.000 Anfragen antwortete der routenoptimierte Endpunkt End-to-End in 27 ms bei p50 und 37 ms bei p95, mit einem Median von 8,9 ms für Lakebase-Feature-Lookups und einer Erfolgsquote von 100 % – weit innerhalb des Latenzbudgets für Bezahlvorgänge.