MLflow Tracing - Observabilidade GenAI
O MLflow Tracing oferece **observabilidade de ponta a ponta** em aplicativos de GenAI, incluindo sistemas complexos baseados em agentes. Registra entradas, saídas, passos intermediários e metadados para que se possa ver exatamente como seu aplicativo se comporta.
O rastreamento permite que você:
- Depure e entenda seu aplicativo
- Monitorar o desempenho e otimizar os custos
- Monitorar aplicações de produção
- Avaliar e melhorar o desempenho de aplicativos de alta qualidade
- Verificar auditabilidade e compliance
- Integre o rastreamento com muitas estruturas populares de terceiros
- Use linguagem natural com o Genie Code para analisar, depurar e explorar dados de rastreamento.
Onde os rastreamentos são armazenados
Você tem duas opções para armazenar rastreamentos. A Databricks recomenda armazenar rastreamentos no Unity Catalog para cargas de trabalho novas e de produção. Independentemente da opção selecionada para armazenar rastreamentos, os experimentos MLflow são o ponto de entrada da IU para visualizar rastreamentos:
- Rastreamentos armazenados no Unity Catalog (recomendado): aponte o experimento para um local de rastreamento do Unity Catalog para que os rastreamentos sejam registrados em tabelas Delta do OpenTelemetry (OTel). Não há limite de armazenamento, os rastreamentos podem ser consultados com SQL como qualquer tabela Delta, e o Unity Catalog rege o acesso.
- Rastreamentos armazenados em um experimento : o MLflow armazena rastreamentos no próprio experimento, mas o MLflow limita o armazenamento a 100.000 rastreamentos por experimento, e essa opção pode não ser compatível com os recursos mais recentes do MLflow.
Capacidade | Rastreamentos armazenados no Unity Catalog | Rastreamentos armazenados em um experimento |
|---|---|---|
Limite de Armazenamento | Ilimitadas | 100.000 rastreamentos por experimento |
Opções de query | UI do MLflow e SDK Python, além de SQL, Genie, painéis AI/BI e qualquer ferramenta baseada em Spark | Interface do usuário do MLflow e SDK do Python |
Governança | Permissões de esquema e tabela do Unity Catalog | Controles de acesso em nível de experimento |
Compatibilidade com OpenTelemetry | Rastreamentos armazenados no formato OTel, compatíveis com outros clientes e ferramentas OTel | Não suportado |
Recursos adicionais
- Demonstração de rastreamento de 10 minutos - Comece a usar o rastreamento no Databricks.
- Instrumente seu aplicativo — Selecione entre abordagens de rastreamento automáticas e manuais
- Genie Code para observabilidade e avaliação de agentes - Analise rastreamentos, solucione erros e explore dados de avaliação usando linguagem natural.