Aller au contenu principal

Créer et gérer des services de fournisseur de modèles

info

Bêta

Cette fonctionnalité est en Bêta. Les administrateurs de compte peuvent gérer l'accès à cette fonctionnalité depuis la console de compte de la page **Aperçus**. Consultez Gérer les aperçus Databricks.

Cette page décrit comment créer un service de fournisseur de modèles, accorder l'accès à celui-ci, configurer les fonctionnalités de Unity AI Gateway et le supprimer.

Exigences

  • L'aperçu Unity AI Gateway est activé pour votre compte. Consultez Gérer les aperçus Databricks.
  • CREATE SERVICE dans le schéma où vous créez le service du fournisseur de modèle, ainsi que USE CATALOG et USE SCHEMA sur son catalogue et son schéma.
  • CREATE CONNECTION sur le même schéma. La création d'un service de fournisseur de modèles avec des informations d'identification intégrées les stocke dans une connexion Unity Catalog, ce qui nécessite ce privilège.
  • Les informations d'identification du fournisseur externe que vous souhaitez enregistrer (par exemple, une clé API OpenAI ou une paire de clés d'accès AWS).

Créer un service de fournisseur de modèles

Les services de fournisseur de modèle et les services de modèle partagent un espace de noms unique au sein d'un schéma Unity Catalog. Vous ne pouvez pas utiliser un nom pour un service de fournisseur de modèle si un service de modèle dans le schéma l'utilise déjà, et vice versa.

Utilisez l’interface utilisateur

  1. Effectuez l'une des actions suivantes :

    • Dans la barre latérale du Workspace, cliquez sur **AI Gateway**, puis ouvrez l'onglet **tab** et cliquez sur **Créer**.
    • Dans l'Explorateur de catalogues, accédez au schéma où vous souhaitez créer le service de fournisseur de modèle, puis cliquez sur Créer > Service > Service de fournisseur de modèle .
  2. Saisissez un nom pour le service de fournisseur de modèle, et sélectionnez le catalogue et le schéma dans lesquels le créer. Si vous start à partir de l'Explorateur de catalogue, l'Explorateur de catalogue préremplit le catalogue et le schéma.

  3. Sélectionnez le type de fournisseur, et entrez les détails de connexion et les identifiants du fournisseur.

  4. Cliquez sur Créer. Databricks chiffre et stocke les identifiants. L'interface utilisateur ne les affiche pas au-delà de ce point.

Pour la liste complète des fournisseurs et leurs méthodes d'authentification, consultez les services de fournisseur de modèles dans Unity Catalog.

Accorder l'accès

Pour permettre aux autres d'interroger un service de fournisseur de modèle, accordez-leur EXECUTE sur le service de fournisseur de modèle ainsi que USE CATALOG et USE SCHEMA sur son catalogue et son schéma. Si le service du fournisseur de modèles consigne les logs dans une table d’inférence, accordez SELECT sur la table pour leur permettre de lire les requêtes et les réponses consignées.

Pour accorder l'accès dans Catalog Explorer :

  1. Dans l'Explorateur de catalogues, ouvrez le service de fournisseur de modèles.
  2. Dans l'onglet **tab**, cliquez sur **Accorder**.
  3. Sélectionnez les utilisateurs ou les groupes auxquels accorder l'accès, sélectionnez le privilège EXECUTE et cliquez sur Accorder .

Assurez-vous que les mêmes principaux disposent également de USE CATALOG et USE SCHEMA sur le catalogue et le schéma du service du fournisseur de modèle. Pour leur permettre de lire les requêtes et les réponses consignées, accordez SELECT sur la table d'inférence depuis son tab Autorisations .

Pour en savoir plus sur l'octroi et la découverte de l'accès, consultez Découvrir et gouverner l'accès aux services de fournisseurs de modèles.

Configurez les fonctionnalités

Étant donné qu’un service de fournisseur de modèles passe par Unity AI Gateway, appliquez les mêmes fonctionnalités de gouvernance et d’observabilité que vous utilisez pour les autres trafics Unity AI Gateway :

Supprimer un service de fournisseur de modèle

Pour supprimer un service de fournisseur de modèles, vous devez disposer d’au moins le privilège MANAGE sur celui-ci. Le propriétaire dispose d'un surensemble de MANAGE.

Pour supprimer un service de fournisseur de modèle, ouvrez-le dans l'Explorateur de catalogues et sélectionnez Supprimer dans le menu kebab. La suppression d'un service de fournisseur de modèle supprime ses informations d'identification stockées.

Étapes suivantes