Aller au contenu principal
Dernière mise à jour le

Tutoriel : Gérer l'accès au modèle d'un agent de codage avec Unity AI Gateway

info

Bêta

Cette fonctionnalité est en Bêta. Les administrateurs de compte peuvent gérer l'accès à cette fonctionnalité depuis la console de compte de la page **Aperçus**. Consultez Gérer les aperçus Databricks.

Dans ce tutoriel, vous connectez un agent de codage externe, tel que Codex, Gemini CLI ou Cursor, à de grands modèles de langage (LLM) régis par Unity AI Gateway. Vous contrôlez ensuite qui peut accéder à ces modèles et la quantité que l'agent peut consommer et dépenser. Au lieu que chaque développeur colle une clé d'API de fournisseur dans son outil, chaque requête passe par un service de modèle Unity AI Gateway. Unity Catalog contrôle qui peut utiliser quels modèles, et Unity AI Gateway applique des limites et enregistre l'utilisation et les coûts.

À la fin de ce didacticiel, vous aurez :

  • Un agent de codage qui envoie chaque requête de modèle par le biais de Unity AI Gateway en utilisant vos identifiants Databricks, sans clé d'API de fournisseur sur la machine du développeur.
  • Registres centraux de l’utilisation et du coût de l’agent, sous réserve des limites de débit et des autorisations que vous définissez sur le service de modèle.

Prérequis​

Étape 1 : Connectez votre agent de codage​

Vous pouvez connecter l'agent de deux manières :

  • ucode (recommandé) : Un lanceur open source (Unity AI Gateway Coding CLI) qui gère OAuth et écrit le fichier de configuration de chaque agent, y compris l'URL de base du service de modèle et le modèle. Vous ne gérez pas les clés API ou les Endpoint manuellement.
  • **Configuration manuelle** : définissez vous-même l'URL de base du service de modèle et le modèle dans les paramètres intégrés de l'outil (Cursor, Codex ou Gemini CLI). Voir Intégrer avec des agents de codage.

Cette section utilise ucode. Installez-le, puis exécutez l'agent que vous souhaitez :

Bash
uv tool install git+https://github.com/databricks/ucode
Bash
ucode codex

Pour exécuter en mode non interactif, passez le propre indicateur de l'agent par ucode:

Bash
ucode codex --full-auto

Lors de la première exécution, ucode demande l'URL de votre workspace et s'authentifie ; les exécutions ultérieures accèdent directement à l'agent.

Étape 2 : Gouverner l'accès du modèle de l'agent​

Vous pouvez gérer un service de modèle comme n'importe quel autre élément sécurisable de Unity Catalog : accorder EXECUTE pour contrôler qui peut l'utiliser, et utiliser la passerelle IA Unity pour plafonner le volume de requêtes et les dépenses. Configurez l'une des options suivantes :

  • Gérer qui peut accéder au modèle : Dans l'Explorateur de catalogues, ouvrez le service de modèle et accordez EXECUTE aux utilisateurs ou groupes dans la tab Permissions.
  • Plafonner le volume de requêtes : Dans l'Explorateur de catalogues, sous la tab Vue d'ensemble du service de modèle, cliquez sur Configurer sous Limites de taux. Définissez une limite de débit de requêtes par minute (QPM) ou de jetons par minute (TPM) pour toutes les requêtes sur l'Endpoint, ou par utilisateur.
  • Définissez un budget de dépenses : Un administrateur de compte peut créer un budget s'appliquant à tous les Endpoints Unity AI Gateway. Le budget agrège les dépenses de vos services de modèle ; définissez un threshold d'alerte pour être averti, ou pour bloquer l'utilisation, avant que les coûts ne le dépassent.

Étape 3 : vérifiez que le trafic est gouverné​

Confirmez que les requêtes de l'agent passent par Unity AI Gateway et sont enregistrées :

  • De l'agent : Envoyez une invite. L'agent répond en utilisant le modèle que vous avez configuré, sans clé d'API de fournisseur sur votre machine.

  • **À partir de la table système d'utilisation** : interrogez le suivi d'utilisation pour confirmer que votre service de modèle enregistre les requêtes :

    SQL
    SELECT service_name, requester, status_code, COUNT(*) AS calls
    FROM system.ai_gateway.usage
    WHERE service_type = 'MODEL_SERVICE'
    GROUP BY service_name, requester, status_code
    ORDER BY calls DESC;

Pour analyser les dépenses plus en détail, consultez Surveiller le coût de la passerelle Unity AI.

Étapes suivantes​

Sur cette page