MLflow Tracing – Observabilité GenAI
MLflow Tracing vous offre **une observabilité de bout en bout** des applications GenAI, y compris les systèmes complexes basés sur des agents. Il enregistre les entrées, les sorties, les étapes intermédiaires et les métadonnées afin que vous puissiez voir exactement comment votre application se comporte.
Traçage vous permet de :
- Déboguer et comprendre votre application
- Surveiller les performances et optimiser les coûts
- Surveiller les applications de production
- Évaluer et améliorer les performances des applications de haute qualité
- Vérifier l'auditabilité et la conformité
- Intégrez le traçage avec de nombreux frameworks tiers populaires
- Avec Genie Code, utilisez le langage naturel pour analyser, déboguer et explorer les données de trace
Où sont stockées les traces
Vous avez deux options pour stocker les traces. Databricks recommande de stocker les traces dans Unity Catalog pour les nouvelles charges de travail et celles en production. Quelle que soit l'option que vous choisissez pour stocker les traces, les expérimentations MLflow constituent le point d'entrée de l'interface utilisateur pour afficher les traces :
- Traces stockées dans Unity Catalog (recommandé) : Pointez votre Experimentation vers un emplacement de trace Unity Catalog afin que les traces atterrissent dans les tables Delta OpenTelemetry (OTel). Il n'y a pas de limite de stockage, les traces sont interrogeables avec SQL comme toute table Delta, et Unity Catalog régit l'accès.
- Traces stockées dans une expérimentation : MLflow stocke les traces dans l’expérimentation elle-même, mais MLflow limite le stockage à 100 000 traces par expérimentation et cette option peut ne pas être compatible avec les dernières fonctionnalités MLflow.
Compétence | Traces stockées dans Unity Catalog | Traces stockées dans une expérimentation |
|---|---|---|
Limite de stockage | Illimité | 100 000 traces par expérimentation |
Options de query | UI MLflow et SDK Python, SQL, Genie, les tableaux de bord AI/BI et tout outil basé sur Spark | Interface utilisateur MLflow et SDK Python |
Gouvernance | Autorisations de schéma et de table Unity Catalog | Contrôles d'accès au niveau de l'Expérimentation |
Compatibilité OpenTelemetry | Traces stockées au format OTel, compatibles avec d’autres clients et outils OTel. | Non pris en charge |
Ressources supplémentaires
- Démonstration de traçage de 10 minutes – démarrez le traçage dans Databricks.
- Instrumentez votre application - Choisissez entre les approches de traçage automatique et manuel
- Genie Code pour l'observabilité et l'évaluation des agents — Analysez les traces, dépannez les erreurs et explorez les données d'évaluation en langage naturel.