Pular para o conteúdo principal

Rastreando a implantação

MLflow Tracing fornece observabilidade abrangente para aplicativos GenAI de produção, capturando detalhes de execução que o senhor pode view na UI MLflow ou analisar como tabelas. Esta página fornece uma referência de recurso que detalha as opções de implantação de agentes ou aplicativos com o MLflow Tracing, incluindo opções de registro de rastreamento e detalhes de governança. Para obter um guia e um tutorial, consulte agentes implantados com rastreamento.

Opções de registro de rastreamento

Os rastros podem ser registrados no site Databricks MLflow acompanhamento serviço ou nas tabelas Delta. A imagem abaixo mostra um exemplo de arquitetura usando todas as opções de registro, a fim de ilustrar o fluxo de dados.

Visão geral do rastreamento de produção do MLflow

Opção de registro de rastreamento

Acesso e governança

Benefícios

Limitações

Experimento MLflow

Os traços podem ser visualizados na interface do usuário do experimento MLflow ou consultados de forma programática. O acesso é controlado por ACLs de experimentos MLflow.

Registro em tempo real. Suporta traços muito grandes.

100 mil traços por experimento. Máximo de 60 consultas por segundo (QPS). Peça ajuda à sua equipe do Databricks account para aumentar esses limites.

Monitoramento da produção

Delta são administradas usando os privilégios do siteUnity Catalog.

Suporta traços muito grandes.

O mesmo que o registro de experimentos do MLflow. Atraso de aproximadamente 15 minutos.

Tabelas de inferência habilitadas para AI Gateway

Delta são administradas usando os privilégios do siteUnity Catalog.

Sem limite de traços por experimento.

Atraso de 30 a 90 minutos. Limites no tamanho do traço.

Na tabela acima, se o experimento MLflow for criado com um local de armazenamento personalizado para artefatos, os dados de rastreamento do experimento serão armazenados no local especificado pelo senhor. Especificamente, se o senhor criar um experimento workspace, poderá definir um local de armazenamento nãodefault para artefatos e dados de rastreamento especificando um artifact_location, como um volume Unity Catalog. Nesse caso, o acesso aos dados de rastreamento é regido pelas permissões do local, como os privilégios de volume do Unity Catalog.

Opções de implantação para rastreamento

O Databricks suporta a implantação dentro e fora do Databricks, com o MLflow 3 e o MLflow 2. A escolha do método de implantação afeta as opções de registro disponíveis:

Local de implantação d - Método de implantação

Registro de experimentos do MLflow?

Monitoramento da produção?

Tabelas de inferência?

Databricks

Agent Framework (recomendado) ou implantação de serviço personalizado

Suportado

Suportado

Suportado

Databricks externos

Implantação personalizada

Suportado

Suportado

Não suportado

guia e tutorial

referências de recursos

Para obter detalhes sobre os conceitos e recursos deste guia, consulte: