Pular para o conteúdo principal

Instrumente seu aplicativo: abordagens de rastreamento

Saiba mais sobre as diferentes abordagens que o senhor pode adotar para adicionar traços ao seu aplicativo generativo AI. O MLflow Tracing fornece instrumentação de ponta a ponta para que o senhor tenha uma visão completa de como o aplicativo se comporta.

Visão geral do Trace

O MLflow tem três abordagens para o rastreamento.

Qual abordagem devo usar?

começar com rastreamento automático. É a maneira mais rápida de fazer os rastreamentos funcionarem. Adicione o rastreamento manual posteriormente se precisar de mais controle.

Por exemplo, o senhor pode usar o rastreamento automático do SDK da OpenAI e o rastreamento manual para combinar várias chamadas LLM em um único rastreamento que represente a lógica de ponta a ponta do seu aplicativo.

Determine a melhor abordagem de rastreamento para seu caso de uso com base em como você está escrevendo o código do seu aplicativo:

Usar uma biblioteca GenAI (LangGraph, CrewAI, agentes OpenAI, agentes Bedrock e outros)

Usar diretamente os SDKs do LLM (por exemplo, SDK do OpenAI, SDK do Anthropic, SDK do Bedrock, etc.)

Usar várias bibliotecas ou SDKs do GenAI (por exemplo, LangGraph E OpenAI SDK, etc.)

  • Ativar o rastreamento automático para cada estrutura / SDK
  • Adicione decoradores de rastreamento manual para combinar chamadas para várias estruturas ou SDKs em um único rastreamento

Todas as outras abordagens ou você precisa de mais controle

  • Use o rastreamento manual
    • Começar com o APIsde alto nível (decorador@mlflow.trace e gerenciadores de contexto fluentes), que proporcionam um equilíbrio entre controle e facilidade de uso
    • Use as APIs de baixo nível somente se as APIs de alto nível não lhe derem controle suficiente

Próximas etapas

Guia de referência

Explore a documentação detalhada dos conceitos e recursos mencionados neste guia.