Smart Routing pour les agents de codage

info

Bêta

Smart Routing est en version bêta et est activé par compte. Un administrateur de compte doit activer l'aperçu Smart Routing avant que vos utilisateurs puissent l'utiliser. La disponibilité, les modèles pris en charge et l'API sont susceptibles d'être modifiés pendant la version bêta.

Le routage intelligent sélectionne automatiquement le meilleur modèle pour chaque tâche prise en charge par un agent de codage. Dans Omnigent, il sélectionne également le meilleur environnement de codage. Au lieu de demander à chaque développeur de choisir un modèle pour chaque requête, Unity AI Gateway achemine chaque tâche vers le modèle le moins coûteux capable de la traiter.

Configurez Smart Routing via Omnigent ou ucode, selon la manière dont vous exécutez votre agent de codage.

Exigences

• Aperçu au niveau du compte Smart Routing activé pour votre compte. Contactez l’administrateur de votre compte pour l’activer et patientez 1 à 2 minutes après l’activation pour que celle-ci soit répercutée sur votre workspace.

• Accès aux modèles candidats que Smart Routing peut sélectionner. Smart Routing choisit uniquement parmi les services de modèle préfixés par system.ai.

• Un workspace Databricks dans une région prise en charge par Unity AI Gateway.

• Pour acheminer via des harnais de codage, et pas seulement des modèles, utilisez la version v0.8.0 ou ultérieure d’Omnigent. Le routage entre les harnais est disponible uniquement dans Omnigent.

Configurer Smart Routing à l’aide d’Omnigent

Omnigent donne à Smart Routing sa forme la plus complète. Il peut choisir à la fois le modèle et le harness de codage pour chaque tâche. Ce choix s'applique à l'agent principal et à chaque sous-agent lancé par une session.

Pour configurer Omnigent :

1. Configurez Claude Code et Codex pour utiliser votre workspace Databricks pour l’inférence :

   Bash

   omni setup

2. Connectez votre ordinateur au serveur Omnigent :

   Bash

   omni host --server <workspace-url>

   Remplacez <workspace-url> par l'URL de votre workspace Databricks.

Activez ensuite Smart Routing depuis l’interface utilisateur ou la CLI.

Depuis l’interface utilisateur

Sélectionnez Smart Routing comme harness afin qu'Omnigent choisisse à la fois votre modèle et votre harness :

Ou, après avoir choisi Claude Code ou Codex, cliquez sur l’icône d’engrenage et sélectionnez Smart Routing pour votre modèle :

Depuis la CLI

Transmettez --smart-routing au harness :

Bash

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Remplacez <workspace-url> par l'URL de votre workspace Databricks.

Configurer Smart Routing à l’aide de ucode

ucode est la CLI Databricks permettant d’exécuter des agents de codage sur Unity AI Gateway. Si vous exécutez Codex ou Claude Code via ucode, activez le routage intelligent par agent :

Bash

ucode codex --enable-smart-routing
ucode claude --enable-smart-routing

Ce paramètre est conservé par agent ; ainsi, les sessions ucode codex ou ucode claude ultérieures maintiennent Smart Routing activé. Pour le désactiver :

Bash

ucode codex --disable-smart-routing
ucode claude --disable-smart-routing

Une fois Smart Routing activé, transmettez votre prompt sur la ligne de commande pour l'acheminer. Smart Routing ne s'applique pas à une session racine interactive ; vous devez donc fournir le prompt avec --:

Bash

ucode claude -- "<prompt>"
ucode codex -- "<prompt>"

Le routage intelligent sélectionne le modèle pour ce prompt, et tous les sous-agents générés par la tâche sont acheminés de la même manière. Le routage entre les harnais est disponible uniquement dans Omnigent.

Limitations

• Le routage intelligent est en version bêta et activé par compte.
• Smart Routing sélectionne uniquement parmi les services de modèle préfixés par system.ai. Les services de modèles personnalisés ne sont pas pris en charge actuellement.
• L'utilisateur doit avoir accès à chaque modèle candidat que le routeur peut sélectionner, faute de quoi Smart Routing échouera. Par exemple, si le routeur peut acheminer vers gpt-5.5, claude-opus-4-8 et glm-5.2, l'utilisateur a besoin de EXECUTE sur les services de modèle system.ai.gpt-5-5, system.ai.claude-opus-4-8 et system.ai.glm-5-2. Si l'utilisateur n'a pas accès à l'un des candidats, la requête renvoie une erreur indiquant les services de modèle dont il a besoin.
• En dehors d'Omnigent, Smart Routing ne peut être configuré qu'avec ucode. Claude Code et Codex natifs (exécutés directement, et non via ucode) ne prennent pas en charge Smart Routing via Unity AI Gateway.
• ucode achemine entre les modèles au sein d'un harness. Le routage entre les harnesses nécessite Omnigent v0.8.0 ou une version ultérieure.

Ressources supplémentaires

• Gouvernance de l'IA avec Unity AI Gateway
• Configurer le routage et les fallback pour les services de modèle
• Analyser le coût de Unity AI Gateway
• Interroger les APIs de modèle (services de modèle)
• Gestion des coûts de codage IA à grande échelle