Wie FactSet das Modelltraining und die Bereitstellung mit Databricks AI Runtime von Tagen auf Stunden verkürzte
Von KI aus dem englischen Original übersetzt. Auf Englisch ansehen
FactSet verkürzte die Zeit für die Einrichtung, das Training und die Bereitstellung seiner Text-to-Formula-Modelle durch den Einsatz von Databricks AI Runtime von Tagen auf Stunden. Durch die Nutzung von serverless GPU-Compute direkt neben bestehenden Lakehouse-Workflows kann das Team feinabgestimmte Open-Source-Modelle nun alle zwei bis drei Wochen kontinuierlich neu trainieren, um natürlichsprachliche Abfragen in FactSet Query Language-Formeln umzuwandeln.
* Das Text-to-Formula (TTF)-System von FactSet konvertiert natürlichsprachliche Anfragen von Investmentprofis in FactSet Query Language (FQL)-Formeln. Nachdem ein anfänglicher RAG-Ansatz bei komplexen Formeln an eine Qualitätsgrenze stieß, machte FactSet feinabgestimmte Open-Source-Modelle zu einem Kernbestandteil der Architektur. * Das Team trainiert Modelle alle zwei bis drei Wochen neu, sobald neue Daten verfügbar sind, weshalb Infrastruktureinrichtung und Bereitstellungsgeschwindigkeit wichtige Teile des Entwicklungszyklus darstellen. * Mit Databricks AI Runtime kann FactSet serverless GPU-Compute für jede Workload auswählen und parallel zu seinen bestehenden Lakehouse-Workflows trainieren, wodurch die Zeit für die Einrichtung, das Training und die Bereitstellung eines Modells von Tagen auf Stunden reduziert wird.