Aller au contenu principal
Dernière mise à jour le

Créer et gérer des fournisseurs de modèles externes (services de fournisseur de modèle)

Enregistrez un fournisseur de modèle externe en tant que service de fournisseur de modèle, accordez-lui l'accès, configurez les fonctionnalités de Unity AI Gateway et supprimez-le.

Exigences​

  • CREATE SERVICE dans le schéma où vous créez le service du fournisseur de modèle, ainsi que USE CATALOG et USE SCHEMA sur son catalogue et son schéma.
  • Les informations d'identification du fournisseur externe que vous souhaitez enregistrer (par exemple, une clé API OpenAI ou une paire de clés d'accès AWS).

Créer un service de fournisseur de modèle​

Les services de fournisseur de modèle et les services de modèle partagent un espace de noms unique au sein d'un schéma Unity Catalog. Vous ne pouvez pas utiliser un nom pour un service de fournisseur de modèle si un service de modèle dans le schéma l'utilise déjà, et vice versa.

Utilisez l’interface utilisateur​

  1. Effectuez l'une des actions suivantes :

    • Dans la barre latérale du Workspace, cliquez sur AI Gateway , puis ouvrez l'onglet tab et cliquez sur Provider .
    • Dans Catalog Explorer, accédez au schéma où vous souhaitez créer le service de fournisseur de modèle, cliquez sur Créer > Service , puis sélectionnez Service de fournisseur de modèle dans la boîte de dialogue Créer un service .

  2. Saisissez un nom pour le service de fournisseur de modèle, et sélectionnez le catalogue et le schéma dans lesquels le créer. Si vous start à partir de l'Explorateur de catalogue, l'Explorateur de catalogue préremplit le catalogue et le schéma.

  3. Sélectionnez le type de fournisseur, et entrez les détails de connexion et les identifiants du fournisseur.

  4. Cliquez sur Créer. Databricks chiffre et stocke les identifiants. L'interface utilisateur ne les affiche pas au-delà de ce point.

Pour obtenir la liste complète des fournisseurs et leurs méthodes d’authentification, consultez Gouverner les fournisseurs de modèles externes (services de fournisseur de modèles).

Envoyer une clé d'API de fournisseur personnalisée dans un en-tête​

Un fournisseur personnalisé envoie sa clé API sous forme de jeton porteur par default. Lorsque votre endpoint attend plutôt la clé dans un en-tête spécifique, utilisez l'authentification par en-tête de clé API et nommez l'en-tête vous-même. Databricks envoie ensuite la clé sur chaque requête sortante sous la forme <header name>: <header value>.

Créez le service de fournisseur de modèle comme décrit dans Create a model provider service. Sélectionnez Custom comme type de fournisseur, puis définissez Auth method sur API key header et fournissez le Header name attendu par votre endpoint (tel que X-API-Key ou Ocp-Apim-Subscription-Key) ainsi que la Header value .

Les deux méthodes sont mutuellement exclusives : un fournisseur personnalisé utilise soit un jeton de porteur, soit un en-tête nommé, mais pas les deux. L'authentification par en-tête nécessite exactement un en-tête.

Le nom de l'en-tête doit être un nom d'en-tête HTTP valide : lettres, chiffres et caractères !#$%&'*+-.^_`|~, jusqu'à 255 caractères. Tout autre caractère est rejeté, y compris les espaces, les deux-points, les barres obliques et les sauts de ligne.

Accorder l'accès​

Pour permettre aux autres d'interroger un service de fournisseur de modèle, accordez-leur EXECUTE sur le service de fournisseur de modèle ainsi que USE CATALOG et USE SCHEMA sur son catalogue et son schéma. Si le service du fournisseur de modèles consigne les logs dans une table d’inférence, accordez SELECT sur la table pour leur permettre de lire les requêtes et les réponses consignées.

Pour accorder l'accès dans Catalog Explorer :

  1. Dans l'Explorateur de catalogues, ouvrez le service de fournisseur de modèles.
  2. Dans l'onglet **tab**, cliquez sur **Accorder**.
  3. Sélectionnez les utilisateurs ou les groupes auxquels accorder l'accès, sélectionnez le privilège EXECUTE et cliquez sur Accorder .

Assurez-vous que les mêmes principaux disposent également de USE CATALOG et USE SCHEMA sur le catalogue et le schéma du service du fournisseur de modèle. Pour leur permettre de lire les requêtes et les réponses consignées, accordez SELECT sur la table d'inférence depuis son tab Autorisations .

Pour en savoir plus sur l’octroi et la découverte d’accès, consultez Découvrir et gouverner l’accès aux fournisseurs de modèles externes (services de fournisseur de modèle).

Configurez les fonctionnalités​

Étant donné qu’un service de fournisseur de modèles passe par Unity AI Gateway, appliquez les mêmes fonctionnalités de gouvernance et d’observabilité que vous utilisez pour les autres trafics Unity AI Gateway :

Supprimer un service de fournisseur de modèle​

Pour supprimer un service de fournisseur de modèles, vous devez disposer d’au moins le privilège MANAGE sur celui-ci. Le propriétaire dispose d'un surensemble de MANAGE.

Pour supprimer un service de fournisseur de modèle, ouvrez-le dans l'Explorateur de catalogues et sélectionnez Supprimer dans le menu kebab. La suppression d'un service de fournisseur de modèle supprime ses informations d'identification stockées.

Étapes suivantes​

Sur cette page