Aller au contenu principal
Dernière mise à jour le

Gouvernance de l'IA avec Unity AI Gateway

info

Bêta

Cette page couvre la nouvelle Passerelle d'IA Unity (visible dans la barre latérale de l'interface utilisateur), qui est actuellement en bêta. Les administrateurs de compte peuvent activer l'accès à cette fonctionnalité sur la page Aperçus de la console de compte. Consultez Gérer les aperçus Databricks.

Pour plus de détails sur la version précédente d’AI Gateway (pas Unity AI Gateway), consultez AI Gateway pour la diffusion d’Endpoint.

Unity AI Gateway est la solution de gouvernance Databricks pour l'IA d'entreprise. Construit sur Unity Catalog, il étend la gouvernance au-delà de vos données et assets d'IA, aux interactions d'exécution entre les modèles, les agents, les serveurs MCP et les outils. Contrôlez les services d'IA que les équipes peuvent utiliser, acheminez et gérez le trafic d'IA, définissez des garde-fous et surveillez l'utilisation à partir d'un seul plan de contrôle.

Get start​

Configurez et appliquez la gouvernance de l'IA à l'ensemble de vos assets d'IA, du trafic et du comportement de service.

Contrôler les services d'IA que les équipes peuvent utiliser​

Enregistrez les assets d'IA en tant qu'objets sécurisables Unity Catalog, puis accordez et révoquez l'accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes sécurisables : un agent est enregistré en tant que modèle Unity Catalog, et les outils qu'il appelle sont régis en tant que services, fonctions et connexions MCP.

    • Modèles
    • Gérez les modèles ML enregistrés, y compris les modèles de fondation hébergés par Databricks, avec les privilèges Unity Catalog.
    • Autorisations du modèle de fondation
    • Restreignez les modèles de fondation hébergés par Databricks auxquels votre organisation peut accéder, à l'échelle du compte ou par groupe.
    • Outils MCP
    • Gouverner les serveurs MCP enregistrés en tant que sécurisables Unity Catalog, avec filtrage des outils et politiques de service.
    • Outils personnalisés
    • Gouvernez les fonctions de Unity Catalog que les agents utilisent comme outils, avec les mêmes privilèges que vous utilisez pour les données.
    • Connexions HTTP
    • Gouvernez les connexions Unity Catalog utilisées pour atteindre les APIs externes et les serveurs MCP.
    • Créer des services de modèle
    • Définissez et partagez les services de modèles en tant qu'objets sécurisables Unity Catalog dans tous les espaces de travail.

Acheminer et gérer le trafic d'IA​

Unity AI Gateway achemine les requêtes vers vos services de modèle et de MCP depuis un plan de contrôle central, afin que vous puissiez gérer la capacité, la disponibilité et les dépenses chez les fournisseurs.

    • Appliquer les limites de débit
    • Appliquez des limites de consommation sur les services de modèle et les services MCP pour gérer la capacité et le coût.
    • Gérer les budgets
    • Surveillez les dépenses et définissez des threshold par utilisateur et des plafonds stricts pour les fournisseurs hébergés par Databricks et les fournisseurs externes.
remarque

Les fonctionnalités de la Passerelle d'IA Unity n'entraînent pas de frais pendant la phase Beta.

Définir des garde-fous et des stratégies d’accès​

Les politiques de service, également appelées garde-fous, contrôlent le traitement de chaque requête et réponse, en fonction de son contenu et de la personne à l'origine de l'appel.

Superviser l'utilisation, le coût et le risque​

Suivez l'activité, les dépenses et les résultats dans l'ensemble des services de la Passerelle d'IA Unity.

    • Surveiller l’utilisation
    • Suivre les requêtes, l'utilisation des tokens et la latence pour les services de modèle à l'aide de tables système.
    • Analyser le coût
    • Attribuez le coût Databricks aux services, aux modèles cibles, aux principaux et aux balises.

Endpoints de mise en service de modèles (précédent)​

La version précédente d’AI Gateway dispose de fonctionnalités de gouvernance pour les Endpoint de déploiement de modèles au niveau du Workspace, y compris les Endpoint de modèles externes, les Endpoint d’API de modèles de fondation et les Endpoint de modèles personnalisés.

Sur cette page