Instrumente seu aplicativo: abordagens de rastreamento
Saiba mais sobre as diferentes abordagens que o senhor pode adotar para adicionar traços ao seu aplicativo generativo AI. O MLflow Tracing fornece instrumentação de ponta a ponta para que o senhor tenha uma visão completa de como o aplicativo se comporta.
O MLflow tem três abordagens para o rastreamento.
- Automático - Adicione uma linha
mlflow.<library>.autolog()
para capturar automaticamente a lógica do aplicativo para mais de 20 bibliotecas compatíveis. - Manual - Projetado para lógica personalizada e fluxo de trabalho coplex, controle o que é rastreado usando APIsde alto nível ou APIsde baixo nível.
- Combinado - misture as duas abordagens para obter uma cobertura completa.
Qual abordagem devo usar?
começar com rastreamento automático. É a maneira mais rápida de fazer os rastreamentos funcionarem. Adicione o rastreamento manual posteriormente se precisar de mais controle.
Por exemplo, o senhor pode usar o rastreamento automático do SDK da OpenAI e o rastreamento manual para combinar várias chamadas LLM em um único rastreamento que represente a lógica de ponta a ponta do seu aplicativo.
Determine a melhor abordagem de rastreamento para seu caso de uso com base em como você está escrevendo o código do seu aplicativo:
Usar uma biblioteca GenAI (LangGraph, CrewAI, agentes OpenAI, agentes Bedrock e outros)
- Use o rastreamento automático para a biblioteca selecionada:
mlflow.<library>.autolog()
Usar diretamente os SDKs do LLM (por exemplo, SDK do OpenAI, SDK do Anthropic, SDK do Bedrock, etc.)
- Usar rastreamento automático para a biblioteca API
- Adicionar decoradores de rastreamento manual para combinar várias chamadas LLM em um único rastreamento
Usar várias bibliotecas ou SDKs do GenAI (por exemplo, LangGraph E OpenAI SDK, etc.)
- Ativar o rastreamento automático para cada estrutura / SDK
- Adicione decoradores de rastreamento manual para combinar chamadas para várias estruturas ou SDKs em um único rastreamento
Todas as outras abordagens ou você precisa de mais controle
- Use o rastreamento manual
- Começar com o APIsde alto nível (decorador
@mlflow.trace
e gerenciadores de contexto fluentes), que proporcionam um equilíbrio entre controle e facilidade de uso - Use as APIs de baixo nível somente se as APIs de alto nível não lhe derem controle suficiente
- Começar com o APIsde alto nível (decorador
Próximas etapas
- Rastreamento automático - Explore todas as bibliotecas e estruturas compatíveis para integração em uma linha
- Rastreamento manual - Aprenda técnicas avançadas para instrumentação personalizada
- Depurar & observar seu aplicativo - Usar traços para depuração e monitoramento
Guia de referência
Explore a documentação detalhada dos conceitos e recursos mencionados neste guia.
- Conceitos de rastreamento - Entenda os fundamentos do MLflow Tracing
- Modelo de dados de rastreamento - Saiba mais sobre traços, extensões e atributos
- Rastreamentos de consulta - acesse e analise programaticamente seus rastreamentos