Gouvernance de l’IA avec Unity Gateway

Unity Gateway est la solution de gouvernance Databricks pour l’IA d’entreprise. Intégré à Unity Catalog, il étend la gouvernance au-delà de vos données et assets d’IA pour englober les interactions d’exécution entre modèles, agents, serveurs MCP et outils. Contrôlez les services d’IA que les équipes peuvent utiliser, acheminez et gérez le trafic d’IA, définissez des garde-fous avec des politiques de service et surveillez l’utilisation à partir d’un plan de contrôle unique.

Databricks sert les grands modèles de langage (LLM) en mode natif via les APIs de modèle de fondation, vous bénéficiez ainsi d’un accès avec paiement par jeton à des modèles tels que GPT, Claude et Gemini, sans infrastructure à gérer. Vous pouvez également connecter des fournisseurs de modèles externes et acheminer vers leurs APIs via le même contrôle d’accès et la même gestion du trafic.

Get start

Configurez et appliquez la gouvernance de l'IA à l'ensemble de vos assets d'IA, du trafic et du comportement de service.

• • Tutoriel : Contrôler l’accès au modèle d’un agent de codage avec Unity Gateway
  • Acheminez un agent de codage externe via des services de modèles gouvernés, puis contrôlez qui peut accéder aux modèles et plafonnez la consommation et les dépenses de l’agent.
• • Tutoriel : Contrôler l'accès GitHub MCP d'un agent de codage
  • Restreindre l'accès d'un agent de codage aux outils MCP GitHub à l'aide des autorisations Unity Catalog et d'une politique de service intégrée.
• • Gouvernez les modèles et les MCP avec des stratégies GRANT
  • Gouvernez l’accès aux modèles, aux services de modèle, aux services du fournisseur de modèles et aux services MCP dans system.ai avec des balises de gouvernance fournies par le système ou personnalisées.
• • Tutoriel : ajouter des garde-fous de politique de service à un service de modèle
  • Implémentez des garde-fous sur un service de modèle en utilisant des stratégies de service intégrées et personnalisées.
• • Tutoriel : Suivre les dépenses liées aux modèles de fondation par utilisateur, équipe ou projet
  • Identifiez les Driver de dépenses liés aux LLM en attribuant les coûts aux utilisateurs, aux équipes ou aux projets à l’aide de tags de service et de tags de requête.

Contrôlez l'accès aux services d'IA

Enregistrez les assets d'IA en tant qu'objets sécurisables Unity Catalog, puis accordez et révoquez l'accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes sécurisables : un agent est enregistré en tant que modèle Unity Catalog, et les outils qu'il appelle sont régis en tant que services, fonctions et connexions MCP.

• • Services de modèle
  • Query les modèles de fondation servis en mode natif dans system.ai sans configuration, et gérez l'accès via les privilèges Unity Catalog.
• • Fournisseurs de modèles externes
  • Connectez des fournisseurs tels qu'OpenAI et Anthropic avec votre propre clé (BYOK), et gérez-les via un point de contrôle unique.
• • Modèles
  • Gouvernez les modèles enregistrés, y compris les modèles de fondation servis par Databricks, avec les privilèges Unity Catalog.
• • Autorisations du modèle de fondation
  • Restreignez les modèles de fondation servis par Databricks auxquels votre organisation peut accéder, à l'échelle du compte ou par groupe.
• • Outils MCP
  • Gouverner les serveurs MCP enregistrés en tant que sécurisables Unity Catalog, avec filtrage des outils et politiques de service.
• • Outils personnalisés
  • Gouvernez les fonctions de Unity Catalog que les agents utilisent comme outils, avec les mêmes privilèges que vous utilisez pour les données.
• • Connexions HTTP
  • Gouvernez les connexions Unity Catalog utilisées pour atteindre les APIs externes et les serveurs MCP.
• • Créer des services de modèles personnalisés
  • Optionnel : ajoutez vos propres Endpoint gouvernés lorsque vous avez besoin de modèles au-delà des default system.ai prêtes à l’emploi.

Acheminer et gérer le trafic d'IA

Unity Gateway achemine les requêtes vers vos services de modèles et MCP depuis un plan de contrôle central, vous permettant ainsi de gérer la capacité, la disponibilité et les dépenses entre les différents fournisseurs.

• • Appliquer les limites de débit
  • Appliquez des limites de consommation sur les services de modèle et les services MCP pour gérer la capacité et le coût.
• • Configurez la répartition du trafic et les fallbacks.
  • Distribuez les requêtes sur plusieurs destinations de modèles et ajoutez un basculement pour augmenter la disponibilité.
• • Acheminez les tâches de codage avec Smart Routing
  • Sélectionnez automatiquement le meilleur modèle et exploitez-le pour chaque tâche de codage afin de contrôler les dépenses en IA sans sacrifier la qualité.
• • Gérer les budgets
  • Surveillez les dépenses et définissez des threshold par utilisateur et des plafonds stricts.

Définir des garde-fous et des stratégies d’accès

Les politiques de service sont les mécanismes que vous utilisez pour implémenter des garde-fous pour les services d’IA. Elles contrôlent la manière dont chaque demande et chaque réponse sont traitées, en fonction de leur contenu et de l’auteur de l’appel.

• • Stratégies de service pour les éléments sécurisables d'IA
  • Comment les politiques de service régissent le contenu des requêtes et des réponses aux services d'IA, à l'aide de politiques intégrées et personnalisées.
• • Créer et associer une politique de service
  • Comment écrire une fonction de politique de service et l'attacher à un service MCP ou à un service de modèle.

Superviser l'utilisation, le coût et le risque

Suivez l’activité, les dépenses et les résultats sur l’ensemble des services Unity Gateway.

• • Présentation de l'observabilité
  • Choisissez l'outil adapté pour surveiller l'utilisation, le coût, la performance et l'activité de l'IA sur l'ensemble des services.
• • Surveiller l’utilisation
  • Suivez les requêtes, la consommation de tokens et la latence sur Unity Gateway à l’aide des tables système.
• • Analyser le coût
  • Attribuez le coût Databricks aux services, aux modèles cibles, aux principaux et aux balises.
• • Auditer les requêtes et les réponses
  • Consignez les requêtes et les réponses dans les tables Delta de Unity Catalog pour le monitoring et le debugging.