Déboguer et analyser votre application avec le traçage

MLflow Tracing offre des insights profonds sur le comportement de votre application, ce qui facilite une expérience de debugging complète dans différents environnements. En capturant le cycle complet requête-réponse (suivi des entrées/sorties) et le flux d'exécution, vous pouvez visualiser et comprendre la logique et le processus de prise de décision de votre application.

L'examen des entrées, des sorties et des métadonnées pour chaque étape intermédiaire (par exemple, la récupération, les appels d'outils, les interactions LLM) et des commentaires des utilisateurs associés ou les résultats des évaluations de qualité vous permet de :

• En développement : Obtenez une visibilité détaillée sur ce qui se passe sous les abstractions des bibliothèques GenAI, ce qui vous aide à identifier précisément où les problèmes ou les comportements inattendus se produisent.
• En production : Surveillez et dépannez les problèmes en temps réel. Les traces capturent les erreurs et peuvent inclure des indicateurs opérationnels comme la latence à chaque étape, ce qui aide à un diagnostic rapide.

MLflow Tracing offre une expérience unifiée entre le développement et la production : vous instrumentez votre application une seule fois, et le traçage fonctionne de manière cohérente dans les deux environnements. Cela vous permet de naviguer de manière transparente dans les traces au sein de votre environnement préféré – que ce soit votre IDE, votre notebook ou votre tableau de bord de monitoring de production – éliminant ainsi les tracas liés au passage entre plusieurs outils ou à la recherche dans des Logs accablants.

Surveiller les performances et optimiser les coûts

Comprendre et optimiser les performances et le coût de vos applications GenAI est crucial. MLflow Tracing vous permet de capturer et de surveiller les métriques opérationnelles clés telles que la latence, le coût et l'utilisation des ressources à chaque étape de l'exécution de votre application.

Ceci vous permet de :

• Suivez et identifiez les goulots d’étranglement de performance au sein de pipelines complexes.
• Surveiller l’utilisation des ressources pour garantir des opérations efficaces.
• Optimisez la rentabilité en comprenant où les Ressources ou les jetons sont consommés.
• Identifier les domaines d'amélioration des performances dans votre code ou vos interactions avec les modèles.

De plus, MLflow Tracing est compatible avec **OpenTelemetry**, une spécification d'observabilité standard du secteur. Cette compatibilité vous permet d'exporter vos données de trace vers divers services dans votre stack d'observabilité existante. Consultez OpenTelemetry Export pour en savoir plus.

Analysez les traces avec Genie Code.

Genie Code fournit une interface en langage naturel pour explorer et debugging vos traces. Au lieu d'écrire des query ou de naviguer dans plusieurs pages d'interface utilisateur, vous pouvez poser des questions comme : « Y a-t-il des traces d'erreur dans cette experimentation ? » ou « Quelle est la latence P95 pour mes traces ? » et obtenir des réponses immédiates.

Genie Code a un accès en lecture à vos traces, sessions, exécutions d'évaluation, évaluateurs, datasets, sessions d'étiquetage et plus encore — afin que vous puissiez passer d'une question de haut niveau à une analyse des causes profondes en une seule conversation.

Consultez Genie Code pour l'observabilité et l'évaluation des agents pour la liste complète des fonctionnalités et des exemples de questions.