código do pacote para Databricks servindo modelo
O guia de rastreamento de versões de aplicativos mostra como rastrear versões de aplicativos usando o site LoggedModel como um hub de metadados vinculado a um código externo (como o Git). Há também cenários em que o senhor pode precisar incluir o código do aplicativo diretamente no site LoggedModel.
Isso é particularmente útil para a implementação em Databricks servindo modelo ou para implementações usando o Agent Framework, que espera artefatos de modelo independentes.
Quando pacotar o código diretamente
Pacote seu código em um LoggedModel quando o senhor precisar:
- Artefatos de implantação independentes que incluem todos os códigos e dependências.
- Implantação direta em plataformas de atendimento sem dependências externas de código.
Essa é uma etapa opcional para implantação, e não a abordagem de controle de versão default para iterações de desenvolvimento.
Como fazer o código de pacote
MLflow recomenda usar a interface ChatAgent para empacotar seus aplicativos GenAI.
Para começar, consulte uma das seguintes opções:
- Início rápido. Consulte o início rápido da criação e implantação de agentes AI.
- Para obter mais detalhes, consulte o autor AI agents in code.
Seguir esses guias resulta em um LoggedModel pronto para implantação que se comporta da mesma forma que o LoggedModel somente de metadados. Siga a etapa 6 do guia de versões de aplicativos de rastreamento para vincular a versão do seu modelo de pacote aos resultados da avaliação.
Próximas etapas
- implantado to servindo modelo - implantado seu modelo de pacote para produção
- Vincular rastreamentos de produção a versões de aplicativos - Rastrear versões implantadas na produção
- execução scorers na produção - Monitorar a qualidade do modelo implantado