Gouvernance de l'IA avec Unity AI Gateway

Unity AI Gateway est la solution de gouvernance Databricks pour l'IA d'entreprise. Construit sur Unity Catalog, il étend la gouvernance au-delà de vos données et assets d'IA, aux interactions d'exécution entre les modèles, les agents, les serveurs MCP et les outils. Contrôlez les services d'IA que les équipes peuvent utiliser, acheminez et gérez le trafic d'IA, définissez des garde-fous et surveillez l'utilisation à partir d'un seul plan de contrôle.

Databricks sert les grands modèles de langage (LLM) en mode natif via les APIs de modèle de fondation, vous bénéficiez ainsi d’un accès avec paiement par jeton à des modèles tels que GPT, Claude et Gemini, sans infrastructure à gérer. Vous pouvez également connecter des fournisseurs de modèles externes et acheminer vers leurs APIs via le même contrôle d’accès et la même gestion du trafic.

Get start

Configurez et appliquez la gouvernance de l'IA à l'ensemble de vos assets d'IA, du trafic et du comportement de service.

• • Guide de gouvernance de l'IA
  • Un chemin de bout en bout pour les administrateurs afin de gouverner l'accès aux assets d'IA, le trafic et le coût, ainsi que le contenu des requêtes et des réponses.
• • Tutoriel : régir l'accès MCP d'un agent de codage à GitHub
  • Restreindre l'accès d'un agent de codage aux outils MCP GitHub à l'aide des autorisations Unity Catalog et d'une politique de service intégrée.
• • Didacticiel : Mettre en œuvre des garde-fous sur un service de modèle avec des politiques de service
  • Implémentez des garde-fous sur un service de modèle en utilisant des stratégies de service intégrées et personnalisées.
• • Tutoriel : Suivre les dépenses liées aux modèles de fondation par utilisateur, équipe ou projet
  • Identifiez les Driver de dépenses liés aux LLM en attribuant les coûts aux utilisateurs, aux équipes ou aux projets à l’aide de tags de service et de tags de requête.

Contrôlez l'accès aux services d'IA

Enregistrez les assets d'IA en tant qu'objets sécurisables Unity Catalog, puis accordez et révoquez l'accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes sécurisables : un agent est enregistré en tant que modèle Unity Catalog, et les outils qu'il appelle sont régis en tant que services, fonctions et connexions MCP.

• • APIs de modèle
  • Query les modèles de fondation servis en mode natif dans system.ai sans configuration, et gérez l'accès via les privilèges Unity Catalog.
• • Fournisseurs de modèles externes
  • Connectez des fournisseurs tels qu'OpenAI et Anthropic avec votre propre clé (BYOK), et gérez-les via un point de contrôle unique.
• • Modèles
  • Gouvernez les modèles enregistrés, y compris les modèles de fondation servis par Databricks, avec les privilèges Unity Catalog.
• • Autorisations du modèle de fondation
  • Restreignez les modèles de fondation servis par Databricks auxquels votre organisation peut accéder, à l'échelle du compte ou par groupe.
• • Outils MCP
  • Gouverner les serveurs MCP enregistrés en tant que sécurisables Unity Catalog, avec filtrage des outils et politiques de service.
• • Outils personnalisés
  • Gouvernez les fonctions de Unity Catalog que les agents utilisent comme outils, avec les mêmes privilèges que vous utilisez pour les données.
• • Connexions HTTP
  • Gouvernez les connexions Unity Catalog utilisées pour atteindre les APIs externes et les serveurs MCP.
• • Créer des API de modèle personnalisées
  • Optionnel : ajoutez vos propres Endpoint gouvernés lorsque vous avez besoin de modèles au-delà des default system.ai prêtes à l’emploi.

Acheminer et gérer le trafic d'IA

Unity AI Gateway achemine les requêtes vers vos services de modèle et de MCP depuis un plan de contrôle central, afin que vous puissiez gérer la capacité, la disponibilité et les dépenses chez les fournisseurs.

• • Appliquer les limites de débit
  • Appliquez des limites de consommation sur les services de modèle et les services MCP pour gérer la capacité et le coût.
• • Configurez la répartition du trafic et les fallbacks.
  • Distribuez les requêtes sur plusieurs destinations de modèles et ajoutez un basculement pour augmenter la disponibilité.
• • Gérer les budgets
  • Surveillez les dépenses et définissez des threshold par utilisateur et des plafonds stricts.

Définir des garde-fous et des stratégies d’accès

Les politiques de service, également appelées garde-fous, contrôlent le traitement de chaque requête et réponse, en fonction de son contenu et de la personne à l'origine de l'appel.

• • Stratégies de service pour les éléments sécurisables d'IA
  • Comment les politiques de service régissent le contenu des requêtes et des réponses aux services d'IA, à l'aide de politiques intégrées et personnalisées.
• • Créer et associer une politique de service
  • Comment écrire une fonction de politique de service et l'attacher à un service MCP ou à un service de modèle.

Superviser l'utilisation, le coût et le risque

Suivez l'activité, les dépenses et les résultats dans l'ensemble des services de la Passerelle d'IA Unity.

• • Présentation de l'observabilité
  • Choisissez l'outil adapté pour surveiller l'utilisation, le coût, la performance et l'activité de l'IA sur l'ensemble des services.
• • Surveiller l’utilisation
  • Suivez les requêtes, l’utilisation des jetons et la latence sur Unity AI Gateway à l’aide des tables système.
• • Analyser le coût
  • Attribuez le coût Databricks aux services, aux modèles cibles, aux principaux et aux balises.
• • Auditer les requêtes et les réponses
  • Consignez les requêtes et les réponses dans les tables Delta de Unity Catalog pour le monitoring et le debugging.