Services de modèle dans Unity Catalog
Bêta
Cette fonctionnalité est en Bêta. Les administrateurs de compte peuvent contrôler l'accès à cette fonctionnalité depuis la page Aperçus de la console de compte. Consultez Gérer les aperçus Databricks.
Unity AI Gateway n’est pas pris en charge sur AWS GovCloud.
Un service de modèle est un objet sécurisable d'Unity Catalog qui représente un Endpoint LLM géré. Les services de modèle vous permettent de définir, partager et gérer l'accès aux LLM de manière centralisée dans Unity Catalog, aux côtés de vos données et au-delà des limites des Workspaces.
Pendant la phase Bêta, les services de modèles prennent en charge les éléments suivants :
- **Modèles de fondation payants par jeton hébergés par Databricks**, en tant que services fournis
system.aipar le système dans et en tant que services que vous créez. - Création et gestion des services de modèle avec l'interface utilisateur de la passerelle Unity AI, l'explorateur de catalogues et l'API REST de Unity Catalog.
- Interrogation des services de modèles dans les workspaces, depuis l'intérieur et l'extérieur de Databricks.
Qu’est-ce qu’un service de modèle ?
Un service de modèle réside dans un schéma Unity Catalog et référence un ou plusieurs modèles servis comme destinations, avec un routage et un fallback entre eux. Les appelants invoquent le service de modèle par son nom entièrement qualifié, et Unity AI Gateway achemine chaque requête vers un modèle de destination.
Étant donné qu'un service de modèle est un objet sécurisable Unity Catalog, il :
- **Vit dans un catalogue et un schéma**, où il hérite des paramètres du schéma tels que les liaisons de workspace.
- Contient les métadonnées standard de Unity Catalog , telles que le nom, le propriétaire, le commentaire et les tags.
- Est régi par les privilèges Unity Catalog , vous accordez donc l'accès en utilisant les mêmes déclarations
GRANTetREVOKEque vous utilisez pour les tables, les fonctions et les modèles. - **Est découvrable dans Catalog Explorer**, aux côtés du reste de vos assets Unity Catalog.
Le même service de modèle apparaît également comme un endpoint dans l'interface utilisateur de Unity AI Gateway, où les équipes d'IA peuvent configurer des fonctionnalités telles que les limites de débit, les tables d'inférence et les garde-fous. Pour en savoir plus sur ces fonctionnalités, consultez la gouvernance de l'IA avec Unity AI Gateway.
Pourquoi régir les LLM dans Unity Catalog ?
Les Endpoint de passerelle d’IA Unity créés dans un Workspace sont limités à ce Workspace. Pour partager un Endpoint entre les workspaces, vous devez le dupliquer dans chaque workspace et gérer chaque copie séparément.
Les services de modèle intègrent la gouvernance à Unity Catalog, afin que vous puissiez :
- Définissez un Endpoint LLM une seule fois et utilisez-le depuis n'importe quel Workspace rattaché au même métastore.
- Gouvernez l'accès de manière centralisée à l'aide des privilèges Unity Catalog, plutôt qu'avec des autorisations par Workspace.
- Découvrez les modèles qui vous sont disponibles sur tous les workspaces à partir d'un seul emplacement.
- Suivez l’utilisation et les coûts des services de modèle dans les tables système de Unity Catalog.
Services de modèle fournis par le système
Databricks propose un service de modèle prêt à l'emploi dans le schéma system.ai pour chaque modèle de base hébergé par Databricks, tel que system.ai.databricks-claude-opus-4-6. Databricks ajoute de nouveaux services de modèles système à mesure que de nouveaux modèles de fondation deviennent disponibles.
Les services de modèles fournis par le système présentent les caractéristiques suivantes :
- Par default, tous les utilisateurs du compte disposent du privilège
EXECUTE, afin que vous puissiez les interroger sans configuration supplémentaire. - Un utilisateur système les possède, et vous ne pouvez pas les supprimer.
- By default, seuls les administrateurs de metastore peuvent les modifier. Un administrateur de métastore peut déléguer la gestion en accordant le privilège
MANAGE.
Pour restreindre l'accès aux services de modèle fournis par le système, consultez gérer les services de modèle.
Privilèges
Les services de modèle utilisent le modèle de privilèges standard d'Unity Catalog. Les privilèges suivants s'appliquent :
Privilège | Description |
|---|---|
| Accéder au catalogue et au schéma qui contiennent le service de modèle. Requis pour toutes les Opérations. |
| Créez des services de modèle dans un schéma. Accordé sur le catalogue ou le schéma. |
| Interroger un service de modèle. |
| Modifier ou supprimer un service de modèle et gérer ses autorisations. Le propriétaire a un sur-ensemble de |
Lorsqu'un utilisateur interroge un service de modèle, Databricks vérifie que le propriétaire dispose de EXECUTE sur les modèles référencés (droits du définisseur). L'appelant n'a pas besoin d'un accès direct aux modèles sous-jacents.
Limitations
Les fonctionnalités suivantes ne sont pas disponibles pendant la version bêta :
- Modèles de throughput provisionné et fournisseurs de modèles externes.
- Création et gestion des services de modèle avec Terraform ou SQL.
- Découverte des services de modèle avec seulement le privilège
BROWSE. - Traçabilité et recherche globale pour les services de modèle.