Comment Flo Health a conçu des modèles open source plus sûrs et plus utiles avec Databricks AI Runtime
Traduit de l'original anglais par IA. Voir en anglais
Flo Health a amélioré la sécurité médicale des modèles ouverts de 34 % à environ 61 % et leur utilité de 42 % à 76 % en exécutant un fine-tuning distribué sur 32 GPU NVIDIA H100 avec Databricks AI Runtime. L'équipe a atteint ces résultats sans données annotées par des humains en combinant des jeux de données synthétiques axés sur la confidentialité, un fine-tuning supervisé et la Direct Preference Optimization avec un cadre d'évaluation calibré par des examens cliniques.
• Flo Health a conçu un cadre d'évaluation spécialisé pour mesurer les réponses de l'IA en matière de sécurité médicale et d'utilité, calibré par rapport à des examens cliniques. • En utilisant des données synthétiques axées sur la confidentialité et des LLM judges, Flo a créé des données d'entraînement sans paires d'entraînement annotées par des humains, puis a appliqué un fine-tuning supervisé et la Direct Preference Optimization (DPO) pour améliorer un modèle ouvert. • Flo a exécuté un fine-tuning distribué sur 32 GPU NVIDIA H100 avec Databricks AI Runtime, faisant passer la sécurité médicale de 34 % à environ 61 %, l'utilité de 42 % à 76 % et le score combiné de 16 % à 47 %.