Model Serving avec recherche automatique de fonctionnalités
Le Model Serving peut rechercher automatiquement les valeurs des fonctionnalités dans un Databricks Online Magasin de fonctionnalités ou un magasin en ligne tiers. Pour le service en temps réel des valeurs de fonctionnalité, Databricks recommande d'utiliser Databricks Online Magasins de fonctionnalités.
Exigences
-
Le modèle doit avoir été enregistré avec
FeatureEngineeringClient.log_model(pour le Feature Engineering dans Unity Catalog) ouFeatureStoreClient.log_model(pour le Magasin de fonctionnalités Workspace hérité), nécessite la v0.3.5 et supérieure). -
Pour les boutiques en ligne tierces, la boutique en ligne doit être publiée avec des identifiants en lecture seule.
Vous pouvez publier la table de caractéristiques à tout moment avant le déploiement du modèle, y compris après l'entraînement du modèle.
Recherche automatique de fonctionnalités
Databricks Model Serving prend en charge la recherche automatique de fonctionnalités à partir de ces magasins en ligne :
- Magasin de fonctionnalités en ligne Databricks
- Amazon DynamoDB (v0.3.8 et supérieur)
La recherche automatique de fonctionnalités est prise en charge pour les types de données suivants :
IntegerTypeFloatTypeBooleanTypeStringTypeDoubleTypeLongTypeTimestampTypeDateTypeShortTypeArrayTypeMapType
Remplacer les valeurs de fonctionnalité lors de la notation de modèles en ligne
Toutes les fonctionnalités requises par le modèle (enregistrées avec FeatureEngineeringClient.log_model ou FeatureStoreClient.log_model) sont automatiquement recherchées dans les stores en ligne pour la notation du modèle. Pour remplacer les valeurs de fonctionnalités lors de la notation d'un modèle à l'aide d'une API REST avec Model Serving, incluez les valeurs de fonctionnalités dans la charge utile de l'API.
Les nouvelles valeurs de fonctionnalité doivent être conformes au type de données de la fonctionnalité tel qu'attendu par le modèle sous-jacent.
Enregistrez le DataFrame augmenté dans la table d'inférence
Pour les Endpoints créés à partir de février 2025, vous pouvez configurer un Endpoint de diffusion de modèle pour consigner le DataFrame augmenté qui contient les valeurs de fonctionnalité recherchées et les valeurs de retour de fonction. Le DataFrame est enregistré dans la table d'inférence pour le modèle servi.
Pour obtenir des instructions sur la configuration de ceci, consultez Journaliser les DataFrames de recherche de fonctionnalités dans des tables d'inférence.
Pour en savoir plus sur les tables d'inférence, consultez Surveiller les modèles servis à l'aide de tables d'inférence compatibles avec AI Gateway.
Exemples de Notebooks
Avec Databricks Runtime 13.3 LTS et versions ultérieures, toute table Delta dans Unity Catalog dotée d'une clé primaire peut être utilisée comme table de fonctionnalités. Lorsque vous utilisez une table enregistrée dans Unity Catalog comme table de fonctionnalités, toutes les fonctionnalités d'Unity Catalog sont automatiquement disponibles pour la table de fonctionnalités.
Magasin de fonctionnalités Databricks en ligne
Le Notebook suivant illustre comment publier des fonctionnalités dans un Magasin de fonctionnalités en ligne Databricks pour le service en temps réel et la recherche automatisée de fonctionnalités.
notebook de démonstration du magasin en ligne Databricks
Boutiques en ligne tierces
Ce Notebook d'exemple illustre comment publier des fonctionnalités dans un magasin en ligne tiers, puis mettre à disposition un modèle entraîné qui recherche automatiquement les fonctionnalités dans le magasin en ligne.
Exemple de notebook de boutique en ligne tierce (Unity Catalog)
Magasin de fonctionnalités du Workspace (hérité)
Cet exemple de notebook illustre comment publier des fonctionnalités dans un magasin en ligne, puis servir un modèle entraîné qui recherche automatiquement les fonctionnalités dans le magasin en ligne.