Services de fournisseur de modèles dans Unity Catalog
Bêta
Cette fonctionnalité est en Bêta. Les administrateurs de compte peuvent gérer l'accès à cette fonctionnalité depuis la console de compte de la page **Aperçus**. Consultez Gérer les aperçus Databricks.
Un *service de fournisseur de modèles* est un élément sécurisable de Unity Catalog qui représente un fournisseur de modèles externe — tel qu'OpenAI, Anthropic ou Amazon Bedrock — ainsi que ses détails de connexion et ses identifiants. Un service de fournisseur de modèles vous permet d'enregistrer un fournisseur une seule fois, de régir l'accès à celui-ci avec les privilèges Unity Catalog et de le query via Unity AI Gateway sans exposer les identifiants sous-jacents.
Qu'est-ce qu'un service de fournisseur de modèle ?
Un service de fournisseur de modèle réside dans un catalogue et un schéma Unity Catalog et utilise un nom en trois parties, tel que main.default.openai_prod. Il tient :
- Le type de fournisseur (par exemple, OpenAI ou Amazon Bedrock).
- La configuration de la connexion pour ce fournisseur, telle qu’une URL de base d’Endpoint ou une région de cloud.
- Les identifiants du fournisseur, que Databricks chiffre et stocke. Databricks ne renvoie pas les identifiants en lecture.
Puisqu'un service de fournisseur de modèles est un objet sécurisable d'Unity Catalog, vous le gérez de la même manière que vous gérez d'autres objets régis :
- Accorder et révoquer l'accès avec les privilèges Unity Catalog.
- Découvrez-le dans l'Explorateur de catalogues aux côtés de vos autres données et assets d'IA.
- Configurez les fonctionnalités de Unity AI Gateway, telles que les limites de débit et les tables d’inférence.
Les appelants query un service de fournisseur de modèle directement via Unity AI Gateway en référençant son nom, et ils ne voient pas les identifiants stockés. Un service de fournisseur de modèle peut également fournir le fournisseur externe vers lequel un service de modèle s’achemine, offrant ainsi aux administrateurs un point de contrôle unique et gouverné pour les informations d’identification du fournisseur.
Fournisseurs pris en charge
Un service de fournisseur de modèles prend en charge les fournisseurs externes et les méthodes d'authentification suivants.
Fournisseur | Authentification |
|---|---|
OpenAI | Clé API |
Azure OpenAI | Clé d'API, ou Microsoft Entra ID Databricks Service Principal (ID de tenant, ID client et secret client) |
Anthropic | Clé API |
Amazon Bedrock | Paire de clés d’accès AWS (identifiant de la clé d’accès et clé d'accès secrète) |
Microsoft Foundry | Clé d'API, ou Microsoft Entra ID Databricks Service Principal (ID de tenant, ID client et secret client) |
Google Gemini pour l'entreprise | Clé API, avec l'ID de projet GCP et la région |
Personnalisé | Jeton porteur, avec une URL de base d'endpoint |
Pourquoi gouverner les fournisseurs externes dans Unity Catalog ?
Sans registre central, chaque équipe qui utilise un modèle externe intègre ses propres informations d'identification de fournisseur dans le code d'application ou les Notebooks. Les services de fournisseur de modèles déplacent cette configuration dans Unity Catalog afin que vous puissiez :
- Définissez un fournisseur une fois. Enregistrez les identifiants et les détails de connexion en un seul endroit, puis permettez à de nombreux utilisateurs et services de modèles de les partager sans jamais avoir à gérer le secret.
- Gouvernance de l'accès avec les privilèges Unity Catalog. Utilisez les mêmes instructions
GRANTetREVOKEque celles que vous utilisez pour d'autres éléments sécurisables afin de régir qui peut interroger chaque fournisseur. - Query sur plusieurs Workspaces. Un service de fournisseur de modèles est disponible dans tout workspace qui partage son metastore.
- Suivez l'utilisation et les coûts. Unity AI Gateway enregistre l'utilisation pour les queries qui transitent par un service de fournisseur de modèles. Voir l'utilisation du modèle pour les services Unity AI Gateway. Databricks calcule également les dépenses estimées pour les requêtes acheminées vers des modèles externes. Voir modèles externes.
Privilèges
Les privilèges Unity Catalog suivants s'appliquent aux services de fournisseur de modèles. Un principal a également besoin de USE CATALOG et USE SCHEMA sur le catalogue parent et le schéma.
Privilège | Accorde la possibilité de |
|---|---|
| Créez un service de fournisseur de modèle dans le schéma. |
| Stockez les identifiants en ligne lors de la création d'un service de fournisseur de modèle. La création d’un service avec des informations d’identification intégrées permet le provisionnement d’une connexion Unity Catalog, ce qui nécessite ce privilège. |
| Interroger le service de fournisseur de modèle via Unity AI Gateway. |
| Afficher le service de fournisseur de modèle et sa configuration sans l'interroger. |
| Modifier, supprimer et accorder l'accès au service de fournisseur de modèle. |
Pour savoir comment accorder et révoquer ces privilèges, consultez Découvrir et gouverner l’accès aux services du fournisseur de modèle.
Portée bêta
Pendant la Bêta :
- Les administrateurs de compte doivent activer l'aperçu de Unity AI Gateway avant de pouvoir créer ou query des services de fournisseur de modèle. Consultez Gérer les aperçus Databricks.
- Les services de fournisseur de modèles ne prennent en charge que les fournisseurs et les méthodes d'authentification listés dans Fournisseurs pris en charge.