Tabelas de inferência do agente: Logs de solicitação e avaliação (preterido)
Para novos casos de uso, a Databricks recomenda implantar agentes em Databricks Apps para controle total sobre o código do agente, configuração do servidor e fluxo de trabalho de implantação. Consulte Crie um agente de AI e implante-o em Databricks Apps. Para migrar um agente existente, consulte Migrar um agente do Model Serving para Databricks Apps.
Aviso de descontinuação : A partir de 4 de dezembro de 2025, o Databricks não preencherá mais automaticamente as tabelas payload_request_logs e payload_assessment_logs. Estas tabelas foram descontinuadas.
- Agentes recém-implantados via agents.deploy() não gerará mais tabelas de request_logs ou assessment_logs.
- As tabelas legadas de request_logs e assessment_logs não são mais populadas. Você pode criar sua própria tabela de substituição usando views materializadas. Consulte soluções alternativas para o MLflow 2.
- A API experimental legada para registrar feedback não terá mais suporte para agentes implantados com a versão mais recente do databricks-agents. Use a API de Avaliações do MLflow 3 em vez disso.
**Ação necessária:**
- Recomendado : Atualize para o MLflow 3 para usar o rastreamento em tempo real, que oferece registro unificado com melhor desempenho.
- Alternativa : caso precise continuar usando o MLflow 2, consulte soluções alternativas para manter o acesso aos seus dados.
Quando você implanta um agente de AI, o Databricks cria três tabelas de inferência que capturam automaticamente solicitações e respostas de e para seu agente. Essas tabelas ajudam a monitorar o desempenho, depurar problemas e analisar o feedback do usuário.
Tabela de inferência | Exemplo de nome da tabela Databricks | Índice |
|---|---|---|
Payload |
| Payloads de solicitação e resposta JSON brutos |
Logs de solicitação de payload |
| Solicitação e respostas formatadas. Rastreamentos do MLflow. Derivado da tabela de payload bruta. |
Logs de avaliação de payload |
| Feedback formatado, conforme apresentado no aplicativo de avaliação, para cada solicitação Derivado da tabela de payload bruta. |
- Os dados JSON brutos entram na tabela de payload dentro de uma hora após seu agente receber uma solicitação.
- As tabelas de logs de solicitação e logs de avaliação processam e formatam os dados da tabela de payload. Isso leva tempo adicional.
- Você pode extrair e processar dados manualmente da tabela de payload, se necessário.
- Alterações na tabela de payload (exclusões ou atualizações) não sincronizam automaticamente com as tabelas derivadas.
O que está mudando?
A Databricks não preenche mais automaticamente as tabelas payload_request_logs e payload_assessment_logs.
O que ainda funciona : A tabela bruta payload continua a receber dados de novas solicitações.
Migre para o MLflow 3 e use o rastreamento em tempo real para unificar os logs do agente
A Databricks recomenda enfaticamente migrar os endpoints do agente para usar o MLflow 3. O rastreamento em tempo real do MLflow 3 elimina a necessidade de tabelas separadas request_logs e assessment_logs, unificando todos os logs do seu agente em um único local de rastreamento.
Observabilidade herdada | MLflow 3 Observabilidade | |
|---|---|---|
Latência de coleta de dados | Mais de 1 hora | <10s |
Organização de Dados | Os rastreamentos e o feedback do usuário (avaliações) são extraídos em tabelas separadas do Unity Catalog ( | Todos os seus dados relacionados à observabilidade, como rastreamentos, feedback e avaliações, podem ser acessados facilmente no mesmo experimento. |
Coleta de Feedback | Não muito bem suportado. Utiliza a API de feedback experimental, que insere os dados na tabela de inferência de payload. | O MLflow 3 oferece APIs simplificadas para executar avaliação, rotulagem humana e gerenciar conjuntos de dados de avaliação. |
Monitoramento | Não muito bem suportado. O suporte é limitado ao monitoramento legado, agora descontinuado, que era restrito a juízes integrados legados e ao juiz de diretrizes, e não tem suporte para métricas personalizadas. O monitoramento legado é executado sobre logs de solicitação de payload, o que significa que suas respostas de agente levarão mais de 1 hora para serem avaliadas. | O monitoramento é nativamente integrado ao MLflow 3, dando suporte a qualquer Scorer:
Inclui recursos de preenchimento de métricas para aplicar retroativamente novas métricas a rastreamentos históricos. Rastreamentos são lidos do MLflow para avaliação, diminuindo a latência de monitoramento para 15–30 minutos. |
O MLflow 3 anexa avaliações a rastreamentos e, em seguida, registra os rastreamentos no servidor de rastreamento do MLflow, juntamente com todos os logs de payload, resposta e etapas intermediárias. Consulte Rótulo durante o desenvolvimento e Conceitos & modelo de dados.
Os passos da migração
- Atualize para o MLflow 3 : certifique-se de que seu agente use o MLflow 3.1.3 ou acima. O rastreamento será habilitado automaticamente ao implantar agentes com o MLflow 3.
# Install prerequisites
%pip install mlflow>=3.1.3
# Restart Python to make sure the new packages are picked up
dbutils.library.restartPython()
- Registre seu agente : registre o agente como faria normalmente, garantindo que ele exija o MLflow 3.1.3 ou acima. Em seguida, registre o modelo no UC.
# Log your agent
with mlflow.start_run():
logged_agent_info = mlflow.pyfunc.log_model(
name="my_agent",
pip_requirements=[
"mlflow>=3.1.3",
],
...
)
# Register your model to UC
uc_registered_model_info = mlflow.register_model(
model_uri=logged_agent_info.model_uri, name=UC_MODEL_NAME
)
- Implante seu agente: implante o agente como você faria normalmente. Opcionalmente, defina seu experimento MLflow antes da implantação para controlar onde os rastreamentos são registrados. Se você não fizer isso, os rastreamentos serão registrados no experimento MLflow ativo no momento.
import mlflow
from databricks import agents
# Set experiment for trace logging
mlflow.set_experiment("/path/to/your/experiment")
# Deploy with automatic tracing
deployment = agents.deploy(uc_model_name, uc_model_info.version)
# Retrieve the query endpoint URL for making API requests
deployment.query_endpoint
MLflow 3 atualmente suporta até 100.000 rastreamentos por endpoint de serviço. Caso antecipe a necessidade de limites maiores, entre em contato com a equipe de conta da Databricks.
Consulte agentes de rastreamento implantados no Databricks para obter mais informações.
Opções alternativas para continuar usando o MLflow 2
Os métodos alternativos do MLflow 2 não oferecem suporte a endpoints com monitoramento de agente ativado. Se utilizar o monitoramento, é preciso migrar para o MLflow 3 e recriar os monitores como avaliadores do MLflow 3.
Se não for possível atualizar para o MLflow 3, a Databricks continua a preencher a tabela payload bruta. No entanto, a Databricks não processa mais estes dados nas tabelas payload_requests_logs e payload_assessment_logs.
Em vez disso, o Databricks gera views sobre suas tabelas de payload que fornecem os mesmos dados formatados. Você tem duas opções para acessar esses dados. Use as views fornecidas ou crie views materializadas.
Opção 1: Use as views fornecidas
O método mais simples é usar as views geradas payload_request_logs_view e payload_assessment_logs_view em vez das tabelas obsoletas.
Esses views query a tabela de payload para fornecer os mesmos dados formatados, e eles funcionam imediatamente sem configuração necessária.
Opcionalmente, renomeie as views para corresponder aos nomes originais da sua tabela para minimizar as alterações no código.
Opção 2: Criar views materializadas
As views fornecidas (payload_request_logs_view e payload_assessment_logs_view) computam dados em tempo real ao consultar a tabela de payload. Para cenários que exigem tabelas Delta físicas, como monitoramento em tempo real, crie views materializadas em vez disso.
Execute o notebook a seguir para converter suas views em views materializadas:
Criar views materializadas para logs de inferência de agente
Perguntas Frequentes
O que acontece com os dados em meus Logs de solicitação e Logs de avaliação existentes?
Os dados existentes em suas tabelas de inferência continuarão acessíveis. No entanto, após 4 de dezembro de 2025, nenhum dado novo será preenchido nas tabelas request_logs e assessment_logs.
A implantação do meu agente falha?
Não, suas implantações de agente antigas continuam funcionando, e suas tabelas de inferência de payload continuam sendo preenchidas. No entanto, após as datas de descontinuação, você não receberá dados nas tabelas request_logs e assessment_logs. Use as views fornecidas ou migre para o MLflow 3 para manter a funcionalidade equivalente.
Se você precisar de assistência com a migração, entre em contato com sua equipe de suporte do Databricks.