Pular para o conteúdo principal
Última atualização em

Smart Routing para agentes de codificação

info

Beta

O Smart Routing está em versão Beta e é habilitado por account. Um administrador da account deve ativar a pré-visualização do Smart Routing antes que seus usuários possam usá-lo. A disponibilidade, os modelos suportados e a API estão sujeitos a alterações durante a versão Beta.

Use a CLI do Unity Gateway (ug) para habilitar o Smart Routing para Codex ou Claude Code. O Smart Routing seleciona automaticamente o modelo de menor custo capaz de lidar com cada tarefa, para que os desenvolvedores não precisem escolher um modelo para cada solicitação.

Requisitos​

  • Pré-visualização em nível de conta do Smart Routing habilitada para sua conta. Entre em contato com o administrador da sua conta para ativar e aguarde de 1 a 2 minutos após a ativação para que ela seja propagada para o seu workspace.

  • Acesso aos modelos candidatos que o Smart Routing pode selecionar. O Smart Routing escolhe apenas entre serviços de modelo com prefixo system.ai.

  • Um workspace do Databricks em uma região com suporte ao Unity Gateway.

Configurar o Roteamento Inteligente usando a CLI do Unity Gateway​

A CLI do Unity Gateway executa agentes de codificação no Unity Gateway. Se você executar o Codex ou o Claude Code por meio da CLI do Unity Gateway, habilite o Smart Routing por agente:

Bash
ug codex --enable-smart-routing
ug claude --enable-smart-routing

A configuração persiste por agente, portanto, sessões posteriores de ug codex ou ug claude mantêm o Smart Routing ativado. Para desativá-lo:

Bash
ug codex --disable-smart-routing
ug claude --disable-smart-routing

Após o Smart Routing ser ativado, passe seu prompt na linha de comando para roteá-lo. O Smart Routing não se aplica a uma sessão raiz interativa, portanto, você deve fornecer o prompt com --:

Bash
ug claude -- "<prompt>"
ug codex -- "<prompt>"

O Smart Routing seleciona o modelo para esse prompt, e quaisquer subagentes que a tarefa gerar serão roteados da mesma forma. O roteamento entre harnesses está disponível apenas no Omnigent.

Configure o Smart Routing usando o Omnigent​

Para rotear entre harnesses de codificação, use a versão v0.8.0 ou posterior do Omnigent. O Omnigent pode escolher tanto o modelo quanto o harness de codificação para cada tarefa. A escolha se aplica ao agente principal e a cada subagente que uma sessão inicia.

Para configurar o Omnigent:

  1. Configure o Claude Code e o Codex para usar seu workspace do Databricks para inferência:

    Bash
    omni setup

  2. Conecte seu computador ao servidor Omnigent:

    Bash
    omni host --server <workspace-url>

    Substitua <workspace-url> pela URL do seu workspace do Databricks.

Em seguida, ative o Smart Routing na interface do usuário ou na CLI.

A partir da IU

Selecione Smart Routing como o harness para que o Omnigent escolha tanto o seu modelo quanto o harness:

Selecionando o Smart Routing como o harness no Omnigent

Ou, após escolher o Claude Code ou o Codex, clique no ícone de engrenagem e selecione Smart Routing para seu modelo:

Selecionando o Smart Routing como o modelo no Omnigent

A partir da CLI

Passe --smart-routing para o harness:

Bash
omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Substitua <workspace-url> pela URL do seu workspace do Databricks.

Limitações​

  • O Smart Routing está em versão Beta e é habilitado por account.
  • O Smart Routing seleciona apenas entre serviços de modelo prefixados com system.ai. Serviços de modelo personalizados não são suportados atualmente.
  • O usuário precisa de acesso a todos os modelos candidatos que o roteador pode selecionar, ou o Smart Routing falhará. Por exemplo, se o roteador puder rotear para gpt-5.5, claude-opus-4-8 e glm-5.2, o usuário precisará de EXECUTE nos serviços de modelo system.ai.gpt-5-5, system.ai.claude-opus-4-8 e system.ai.glm-5-2. Se o usuário não tiver acesso a nenhum candidato, a solicitação retornará um erro nomeando os serviços de modelo de que ele precisa.
  • A CLI do Unity Gateway roteia entre modelos dentro de um harness. O roteamento entre harnesses requer o Omnigent v0.8.0 ou posterior.
  • As sessões nativas do Claude Code e Codex que não usam a CLI do Unity Gateway não oferecem suporte ao Roteamento Inteligente por meio do Unity Gateway.

Outros recursos​

Nesta página