Présentation de ai_decide : prenez des décisions rapides sur vos données gouvernées
Traduit de l'original anglais par IA. Voir en anglais
Databricks a introduit ai_decide, une nouvelle AI Function qui traite le texte non structuré pour renvoyer des décisions structurées plus rapidement et à moindre coût que les LLM traditionnels. Optimisée pour la prise de décision plutôt que pour la génération de texte, elle s'exécute directement sur des données gouvernées à l'échelle du batch en SQL ou en temps réel via REST pour des tâches telles que le routage de prompts, l'étiquetage de métadonnées et l'évaluation de la qualité des agents.
* ai_decide est une nouvelle Databricks AI Function qui prend des décisions rapides directement sur vos données. Elle prend du texte non structuré et renvoie des décisions structurées en une fraction de seconde. * Parce qu'elle est optimisée pour les décisions plutôt que pour la génération de texte, ai_decide est plus rapide et moins coûteuse que les LLM sur des tâches similaires. * Utilisez ai_decide lorsque vous avez besoin de décisions rapides et économiques sur des données gouvernées : routage de prompts vers le bon modèle, étiquetage de critiques clients avec des métadonnées ou évaluation de la qualité des agents, à l'échelle du batch en SQL ou en temps réel via REST.