Do pós-treinamento à produção: como a TinyFish executa seu modelo nativo web no Databricks AI Runtime
Traduzido do original em inglês por IA. Ver em inglês
A TinyFish estabeleceu um caminho contínuo do pós-treinamento ao deployment usando o Databricks AI Runtime em GPUs gerenciadas, o MLflow para avaliação e o Databricks Model Serving para inferência em produção. Testado em 2.178 tarefas de agentes web, o modelo nativo web resultante alcançou uma taxa de sucesso de 77,6% em benchmarks internos de liberação.
* A TinyFish usa o Databricks AI Runtime para treinar e ajustar seu modelo nativo web em infraestrutura de GPU gerenciada, com o MLflow para avaliação e o Databricks Model Serving para inferência em produção. * A integração desses fluxos de trabalho proporciona à TinyFish um caminho contínuo que vai do comportamento do agente em produção até o pós-treinamento, avaliação e deployment. * No benchmark interno de liberação da TinyFish, seu modelo nativo web alcançou uma taxa de sucesso de 77,6% em 2.178 tarefas de agentes web, medindo se o agente completo concluiu com sucesso o trabalho solicitado.