Packagez le code pour Databricks Model Serving
La page suivre les versions d’application montre comment suivre les versions d’application en utilisant LoggedModel comme hub de métadonnées renvoyant vers du code externe (tel que Git). Il existe également des scénarios où vous pourriez avoir besoin de packager votre code d’application directement dans le LoggedModel.
Ceci est particulièrement utile pour le déploiement sur Databricks Model Serving ou pour les déploiements utilisant des Custom Agents, qui attendent des artefacts de modèle autonomes.
Quand empaqueter le code directement
Packagez votre code dans un LoggedModel lorsque vous avez besoin de :
- Artefacts de déploiement autonomes qui incluent tout le code et toutes les dépendances.
- Déploiement direct vers des plateformes de mise en service sans dépendances de code externe.
Il s’agit d’une étape facultative pour le déploiement, et non de l’approche de versioning default pour les itérations de développement.
Comment packager du code
MLflow recommande d’utiliser l’interface ResponsesAgent pour empaqueter vos applications GenAI.
Consultez l'un des éléments suivants pour start :
- Démarrage rapide. Voir le guide de démarrage rapide pour créer et déployer des agents.
- Pour plus de détails, consultez créer des agents dans le code.
Suivre ces pages permet d’obtenir un LoggedModel prêt pour le déploiement qui se comporte de la même manière que le LoggedModel basé uniquement sur les métadonnées. Suivez l’ étape 6 de la page de suivi des versions d’application pour Link votre version de modèle packagée aux résultats de l’évaluation.
Ressources supplémentaires
- Déployer vers Model Serving - Déployez votre modèle packagé en production
- Link production traces aux versions de l’application - Suivre les versions déployées en production
- Exécuter des évaluateurs en production - Surveiller la qualité des modèles déployés