Rastreando a implantação
MLflow Tracing fornece observabilidade abrangente para aplicativos GenAI de produção, capturando detalhes de execução que o senhor pode view na UI MLflow ou analisar como tabelas. Esta página fornece uma referência de recurso que detalha as opções de implantação de agentes ou aplicativos com o MLflow Tracing, incluindo opções de registro de rastreamento e detalhes de governança. Para obter um guia e um tutorial, consulte agentes implantados com rastreamento.
Opções de registro de rastreamento
Os rastros podem ser registrados no site Databricks MLflow acompanhamento serviço ou nas tabelas Delta. A imagem abaixo mostra um exemplo de arquitetura usando todas as opções de registro, a fim de ilustrar o fluxo de dados.
Opção de registro de rastreamento | Acesso e governança | Benefícios | Limitações |
---|---|---|---|
Os traços podem ser visualizados na interface do usuário do experimento MLflow ou consultados de forma programática. O acesso é controlado por ACLs de experimentos MLflow. | Registro em tempo real. Suporta traços muito grandes. | 100 mil traços por experimento. Máximo de 60 consultas por segundo (QPS). Peça ajuda à sua equipe do Databricks account para aumentar esses limites. | |
Delta são administradas usando os privilégios do siteUnity Catalog. | Suporta traços muito grandes. | O mesmo que o registro de experimentos do MLflow. Atraso de aproximadamente 15 minutos. | |
Delta são administradas usando os privilégios do siteUnity Catalog. | Sem limite de traços por experimento. | Atraso de 30 a 90 minutos. Limites no tamanho do traço. |
Na tabela acima, se o experimento MLflow for criado com um local de armazenamento personalizado para artefatos, os dados de rastreamento do experimento serão armazenados no local especificado pelo senhor. Especificamente, se o senhor criar um experimento workspace, poderá definir um local de armazenamento nãodefault para artefatos e dados de rastreamento especificando um artifact_location
, como um volume Unity Catalog. Nesse caso, o acesso aos dados de rastreamento é regido pelas permissões do local, como os privilégios de volume do Unity Catalog.
Opções de implantação para rastreamento
O Databricks suporta a implantação dentro e fora do Databricks, com o MLflow 3 e o MLflow 2. A escolha do método de implantação afeta as opções de registro disponíveis:
Local de implantação d - Método de implantação | ||||
---|---|---|---|---|
Databricks | Agent Framework (recomendado) ou implantação de serviço personalizado | Suportado | Suportado | Suportado |
Databricks externos | Suportado | Suportado | Não suportado |
guia e tutorial
referências de recursos
Para obter detalhes sobre os conceitos e recursos deste guia, consulte:
- Conceitos de monitoramento da produção - Entenda como o MLflow permite o monitoramento contínuo da qualidade
- Modelo de dados de rastreamento - Saiba mais sobre traços, extensões e atributos
- Avaliações de registro - Entenda como o feedback é armazenado e usado