Du post-entraînement à la production : comment TinyFish fait tourner son modèle natif web sur Databricks AI Runtime
Traduit de l'original anglais par IA. Voir en anglais
TinyFish a mis en place un parcours continu du post-entraînement au déploiement en utilisant Databricks AI Runtime sur des GPU gérés, MLflow pour l'évaluation et Databricks Model Serving pour l'inférence en production. Testé sur 2 178 tâches d'agents web, le modèle natif web ainsi obtenu a atteint un taux de réussite de 77,6 % lors de benchmarks internes de validation.
* TinyFish utilise Databricks AI Runtime pour entraîner et affiner son modèle natif web sur une infrastructure GPU gérée, avec MLflow pour l'évaluation et Databricks Model Serving pour l'inférence en production. * En réunissant ces flux de travail, TinyFish dispose d'un parcours continu allant du comportement de l'agent en production jusqu'au post-entraînement, à l'évaluation et au déploiement. * Lors du benchmark interne de validation de TinyFish, son modèle natif web a atteint un taux de réussite de 77,6 % sur 2 178 tâches d'agents web, mesurant si l'agent dans son ensemble a mené à bien le travail demandé.