Pular para o conteúdo principal

Adicionar rastreamentos a aplicativos: rastreamento automático e manual

Aprenda sobre as diferentes abordagens que você pode adotar para adicionar rastros a aplicativos AI generativa Python e TypeScript.

O MLflow tem três abordagens para rastreamento para Python e TypeScript.

Qual abordagem devo usar?

começar com rastreamento automático. É a maneira mais rápida de fazer os rastreamentos funcionarem. Adicione o rastreamento manual posteriormente se precisar de mais controle.

Cenário

Recomendações

Use uma biblioteca GenAI

Utilize o rastreamento automático para a biblioteca selecionada.

Use os SDKs do LLM diretamente

Utilize várias bibliotecas ou SDKs do GenAI.

  • Ativar o rastreamento automático para cada estrutura / SDK
  • Adicione decoradores de rastreamento manual para combinar chamadas para várias estruturas ou SDKs em um único rastreamento

Em todos os outros cenários, ou se você precisar de mais controle,

Utilize o rastreamento manual: