código do pacote para Databricks servindo modelo
A página de versões de aplicativos de rastreamento mostra como rastrear versões de aplicativos usando LoggedModel
como um hub de metadados vinculado a código externo (como Git). Existem também cenários em que pode ser necessário empacotar o código da sua aplicação diretamente no LoggedModel
.
Isso é particularmente útil para a implementação em Databricks servindo modelo ou para implementações usando o Agent Framework, que espera artefatos de modelo independentes.
Quando pacotar o código diretamente
Pacote seu código em um LoggedModel
quando o senhor precisar:
- Artefatos de implantação independentes que incluem todos os códigos e dependências.
- Implantação direta em plataformas de atendimento sem dependências externas de código.
Essa é uma etapa opcional para implantação, e não a abordagem de controle de versão default para iterações de desenvolvimento.
Como fazer o código de pacote
MLflow recomenda usar a interface ResponsesAgent
para empacotar seus aplicativos GenAI.
Para começar, consulte uma das seguintes opções:
- Início rápido. Consulte o início rápido da criação e implantação de agentes AI.
- Para obter mais detalhes, consulte o autor AI agents in code.
Seguir essas páginas resulta em um LoggedModel
pronto para implantação que se comporta da mesma forma que o LoggedModel
, somente para metadados. Siga a etapa 6 da página de versões do aplicativo de rastreamento para vincular a versão do seu modelo de pacote aos resultados da avaliação.
Próximas etapas
- implantado to servindo modelo - implantado seu modelo de pacote para produção
- Vincular rastreamentos de produção a versões de aplicativos - Rastrear versões implantadas na produção
- execução scorers na produção - Monitorar a qualidade do modelo implantado