implantar um aplicativo rastreado
O rastreamento do MLflow ajuda você a monitorar aplicativos GenAI em produção, capturando detalhes de execução. Você pode implantar aplicativos rastreados de duas maneiras:
- Em Databricks : implantado utilizando Agent Framework ou modelo personalizado com integração total para monitoramento e tabelas de inferência
- Fora do Databricks : implantação em ambientes externos, registrando os rastreamentos de volta para Databricks para monitoramento.
Compare as opções de implantação
A tabela abaixo compara os recursos disponíveis para cada local de implantação:
Local de implantação | Registro de rastreamento de experimentos do MLflow | ||
|---|---|---|---|
Apoiado | Apoiado | Apoiado | |
Apoiado | Apoiado | Não suportado |
- Registro de rastreamento de experimentos do MLflow : Registro de rastreamento em tempo real com acesso à interface do usuário do experimento MLflow. Visualize os registros na interface do usuário ou faça consultas programaticamente. Suporta até 100 mil traços por experimento.
- Monitoramento de Produção : Arquivamento automático em tabelas Delta para análise e monitoramento de longo prazo. Adiciona um atraso de aproximadamente 15 minutos em comparação com o registro de experimentos.
- Tabelas de inferência : Disponíveis apenas para implementações do Databricks. Armazena registros em tabelas Delta sem limites de experimento. Adiciona um atraso de 30 a 90 minutos e possui limites de tamanho de rastreamento.
Próximos passos
Escolha sua abordagem de implantação: