Ajouter un profil d'instance à un endpoint de service de modèle

Cet article explique comment attacher un profil d'instance à un endpoint de service de modèle. Cela permet aux clients d'accéder à toutes les Ressources AWS à partir du modèle, autorisées par le profil d'instance. En savoir plus sur les profils d'instance.

Exigences

• Créer un profil d’instance.

• Ajouter un profil d'instance à Databricks.

  • Si vous avez un profil d’instance déjà configuré pour le SQL serverless, veillez à modifier les politiques d’accès afin que vos modèles disposent de la politique d’accès appropriée à vos ressources.

• Les Endpoint de mise en service du modèle s'exécutent sur du compute Serverless. Le rôle IAM de votre profil d'instance doit avoir une relation d'approbation configurée pour le Serverless compute. Si vous voyez l'erreur « Le rôle IAM n'a pas la relation de confiance requise », consultez Confirmer ou configurer un profil d'instance AWS à utiliser avec vos SQL Warehouse Serverless pour les instructions de configuration.

Ajouter un profil d'instance lors de la création d'Endpoint

Lorsque vous créez un Endpoint de service de modèle, vous pouvez ajouter un profil d'instance à la configuration de l'Endpoint.

remarque

L'autorisation du créateur de l'endpoint pour un profil d'instance est validée au moment de la création de l'endpoint.

• Depuis l'interface utilisateur de Serving, vous pouvez ajouter un profil d'instance dans les Configurations avancées :

  

• Pour les workflows programmatiques, utilisez le champ instance_profile_arn lorsque vous créez un Endpoint pour ajouter un profil d'instance.

  Bash

  POST /api/2.0/serving-endpoints
  
  {
    "name": "feed-ads",
    "config":{
    "served_entities": [{
      "entity_name": "ads1",
      "entity_version": "1",
      "workload_size": "Small",
      "scale_to_zero_enabled": true,
      "instance_profile_arn": "arn:aws:iam::<aws-account-id>:instance-profile/<instance-profile-name-1>"
      }]
    }
  }

Mettre à jour un Endpoint existant avec un profil d'instance

Vous pouvez également mettre à jour une configuration de endpoint de diffusion de modèles existante avec un profil d’instance avec le champ instance_profile_arn.

Bash

PUT /api/2.0/serving-endpoints/{name}/config

{
  "served_entities": [{
    "entity_name": "ads1",
    "entity_version": "2",
    "workload_size": "Small",
    "scale_to_zero_enabled": true,
    "instance_profile_arn": "arn:aws:iam::<aws-account-id>:instance-profile/<instance-profile-name-2>"
  }]
}

Limitations

Les limitations suivantes s'appliquent :

• Les identifiants de sécurité temporaires STS sont utilisés pour authentifier l'accès aux données. Il ne peut contourner aucune restriction réseau.
• Si les clients modifient le rôle IAM du profil d'instance depuis les Paramètres de l'interface utilisateur de Databricks, les Endpoint s'exécutant avec le profil d'instance continuent d'utiliser l'ancien rôle IAM jusqu'à ce que l'Endpoint se mette à jour.
• Si les clients suppriment un profil d'instance des **Paramètres** de l'interface utilisateur Databricks et que ce profil est utilisé dans des endpoints en cours d'exécution, l'endpoint en cours d'exécution n'est pas impacté.

Pour les limitations générales des Endpoint Model Serving, consultez Limites et régions de Model Serving.

Ressources supplémentaires

• Recherchez les fonctionnalités en utilisant le même profil d'instance que celui que vous avez ajouté à l'Endpoint de service.
• Configurez l'accès aux Ressources à partir des endpoints de service de modèle.