Ajouter une ressource d'Endpoint de service de modèle à une application Databricks

Ajoutez des Endpoints de service de modèle en tant que ressources Databricks Apps afin que votre application puisse query des modèles de machine learning pour l'inférence. Les endpoints de déploiement de modèles gèrent les prévisions de modèles et fournissent une interface cohérente pour accéder aux modèles déployés.

Ajouter une ressource d'endpoint de déploiement de modèle

Avant d'ajouter un endpoint de service de modèle en tant que ressource, passez en revue les prérequis des ressources d'application.

1. Dans la section **Ressources de l'application**, lorsque vous créez ou modifiez une application, cliquez sur **+ Ajouter une ressource** > **Endpoint de diffusion**.

2. Choisissez un Endpoint de mise en service du modèle parmi les Endpoints disponibles dans votre Workspace.

3. Sélectionnez le niveau d’autorisation approprié pour votre application :

   • **Peut afficher** : Consultez les métadonnées de l'endpoint, y compris les noms de modèle, les versions et la configuration de la charge de travail. Impossible d'envoyer les demandes d'inférence.
   • Peut query : Envoyer des requêtes d'inférence et afficher les métadonnées. Utilisez ceci pour la plupart des applications qui ont besoin de prédictions de modèle.
   • Gestion autorisée : Contrôle administratif complet, y compris l'affichage, la modification, la query, la suppression et la gestion des autorisations.

4. (Facultatif) Spécifiez une clé de ressource personnalisée, c’est ainsi que vous référencez l’endpoint de service de modèle dans la configuration de votre application. La clé default est serving-endpoint.

remarque

L'Endpoint de mise à disposition du modèle doit être dans un état READY pour traiter les demandes d'inférence de votre application.

Variables d'environnement

Lorsque vous déployez une application avec une ressource d’endpoint de service de modèle, Databricks expose le nom de l’endpoint de service via des variables d’environnement que vous pouvez référencer à l’aide du champ valueFrom.

Par exemple :

SERVING_ENDPOINT=<your-serving-endpoint-name>

Pour plus d'informations, consultez Utiliser les variables d'environnement pour accéder aux ressources.

Supprimer une Ressource d'Endpoint de service de modèle

Lorsque vous supprimez une ressource d'Endpoint de diffusion de modèle d'une application, le Service Principal de l'application perd l'accès à l'Endpoint. L'endpoint de mise en service de modèle lui-même reste inchangé et continue d'être disponible pour d'autres utilisateurs et applications disposant des autorisations appropriées.

Bonnes pratiques

Considérez les points suivants lorsque vous travaillez avec les ressources d'endpoint de service de modèle :

• Accorder des autorisations minimales. Utilisez Can view pour l'accès le moins privilégié ou Can query pour la plupart des applications qui doivent envoyer des requêtes d'inférence, à moins que votre application n'ait spécifiquement besoin d'effectuer des tâches administratives sur l'Endpoint.
• Évitez les query de longue durée lorsque cela est possible, car les requêtes d'inférence peuvent expirer.
• Vérifiez le statut de l’Endpoint avant d’envoyer des requêtes. Les Endpoints doivent être à l’état READY pour traiter les queries.
• Envisagez de limiter le débit de vos requêtes d'inférence pour éviter de surcharger l'endpoint, en particulier pendant les périodes de fort trafic.