Aller au contenu principal
Dernière mise à jour le

Créer et gérer les services de modèle

info

Bêta

Cette fonctionnalité est en Bêta. Les administrateurs de compte peuvent contrôler l'accès à cette fonctionnalité depuis la page Aperçus de la console de compte. Consultez Gérer les aperçus Databricks.

Cette page décrit comment créer, partager et gérer des services de modèle dans Unity Catalog.

Exigences​

  • L'aperçu Unity AI Gateway est activé pour votre compte. Consultez Gérer les aperçus Databricks.
  • Un Databricks workspace dans une région prise en charge par Unity AI Gateway.
  • Unity Catalog activé pour votre workspace. Consultez Activer un workspace pour Unity Catalog.
  • Pour créer un service de modèle, vous devez disposer des éléments suivants :
    • USE CATALOG, USE SCHEMA et CREATE SERVICE sur le catalogue et le schéma où vous créez le service de modèle.
    • EXECUTE sur chaque modèle que le service de modèle référence comme destination.
    • USE CATALOG, USE SCHEMA et CREATE TABLE sur le catalogue et le schéma où la table d'inférence est créée, si vous activez la journalisation de l'inférence.

Créer un service de modèle​

Vous pouvez créer un service de modèle dans l’interface utilisateur de Unity AI Gateway ou dans l’Explorateur de catalogues.

Les services de modèle et les services de fournisseur de modèle partagent un espace de noms unique au sein d'un schéma Unity Catalog. Vous ne pouvez pas utiliser un nom pour un service de modèle si un service de fournisseur de modèle dans le schéma l'utilise déjà, et inversement.

Utilisez l’interface utilisateur​

  1. Effectuez l'une des actions suivantes :

    • Dans la barre latérale du Workspace, cliquez sur AI Gateway , puis sur Créer .
    • Dans l'Explorateur de catalogues, accédez au schéma dans lequel vous souhaitez créer le service de modèle, puis cliquez sur Créer > Service > Service de modèle .

  2. Saisissez un nom pour le service de modèle, et sélectionnez le catalogue et le schéma dans lequel le créer. Si vous start à partir de l'Explorateur de catalogue, l'Explorateur de catalogue préremplit le catalogue et le schéma.

  3. Sélectionnez le modèle principal à servir, parmi les modèles hébergés par Databricks que vous avez EXECUTE et que la passerelle IA Unity peut servir.

  4. Cliquez sur Créer .

Après avoir créé le service de modèle, Databricks ouvre sa page d’aperçu, où vous pouvez commencer ou configurer des fonctionnalités supplémentaires telles que la journalisation de l’inférence.

Accorder l'accès à un service de modèle​

Pour permettre à d'autres de query un service de modèle, accordez-leur EXECUTE sur le service de modèle et USE CATALOG et USE SCHEMA sur son catalogue et son schéma. Si le service de modèle consigne des logs dans une table d'inférence, accordez SELECT sur la table pour leur permettre de lire les demandes et les réponses consignées.

Pour accorder l'accès dans Catalog Explorer :

  1. Dans l'Explorateur de catalogues, ouvrez le service de modèles.
  2. Dans l'onglet **tab**, cliquez sur **Accorder**.
  3. Sélectionnez les utilisateurs ou les groupes auxquels accorder l'accès, sélectionnez le privilège EXECUTE et cliquez sur Accorder .

Assurez-vous que les mêmes Service Principals disposent également de USE CATALOG et USE SCHEMA sur le catalogue et le schéma du service de modèle. Pour leur permettre de lire les requêtes et les réponses consignées, accordez SELECT sur la table d'inférence depuis son tab Autorisations .

Pour en savoir plus sur l'octroi et la découverte d'accès, consultez la gouvernance des services de modèles.

Configurer les fonctionnalités d'un service de modèle​

Vous configurez des fonctionnalités telles que les limites de taux, la journalisation de l'inférence et les garde-fous sur le service de modèle à partir de l'interface utilisateur de Unity AI Gateway, de la même manière que vous les configurez sur un Endpoint Unity AI Gateway. Voir :

Journalisation des inférences​

Lorsque vous activez la journalisation des inférences, Databricks crée une nouvelle table Unity Catalog vide avec un schéma prédéfini à l'emplacement que vous spécifiez. Notez ce qui suit :

  • Vous devez disposer de USE CATALOG, USE SCHEMA et CREATE TABLE sur le catalogue et le schéma cibles.
  • Le créateur du service de modèle est le propriétaire de la table d’inférence. Aucun autre utilisateur n’y a accès, sauf si vous l’y autorisez.
  • Si une table existe déjà à l'emplacement spécifié, la création du service de modèle échoue.
  • La table d’inférence a un cycle de vie indépendant du service de modèle. Si vous supprimez la table, le service de modèle continue de fonctionner mais arrête l'enregistrement.

Pour en savoir plus sur les tables d'inférence, consultez Surveiller les services de modèle à l'aide de tables d'inférence.

Supprimer un service de modèle​

Pour supprimer un service de modèle, vous devez disposer d'au moins le privilège MANAGE sur celui-ci. Le propriétaire dispose d'un surensemble de MANAGE.

Pour supprimer un service de modèle, ouvrez-le dans Catalog Explorer et sélectionnez Supprimer dans le menu kebab.

Les services de modèle fournis par le système dans system.ai ne peuvent pas être supprimés.

Étapes suivantes​

Sur cette page