Gerenciar orçamentos para Unity AI Gateway
Orçamentos ajudam você a monitorar e controlar os gastos mensais do Unity AI Gateway usando filtros aplicados aos registros de cobrança. É possível definir o escopo de um orçamento especificamente para o produto Unity AI Gateway para rastrear apenas os gastos do Unity AI Gateway, ou incluir o Unity AI Gateway em um orçamento de toda a account.
Os orçamentos do Unity AI Gateway também acompanham o uso do produto Genie. Para definir orçamentos especificamente para Genie, consulte Gerenciar orçamentos e controles de custo para Genie.
Para obter detalhes sobre a criação e o monitoramento de orçamentos, consulte Criar e monitorar orçamentos.
Requisitos
- Unity AI Gateway habilitado para sua account.
Como os orçamentos funcionam com o Unity AI Gateway
Ao criar um orçamento, selecione Unity AI Gateway como o tipo de recurso para rastrear apenas os gastos do Unity AI Gateway (inferência por tokens e ai_query).
Tipos de limite : Para orçamentos com escopo no Unity AI Gateway, você pode configurar:
- Limites compartilhados : Um limite de gastos coletivo para todos os usuários dentro do escopo do orçamento.
- Limites por usuário : Um limite mensal que se aplica a cada usuário individual.
- (Apenas para orçamentos Genie) Substituições por usuário : Conceda a usuários ou grupos específicos um limite de gastos mais alto do que o limite default por usuário. Usuários cobertos por uma substituição podem gastar até o valor da substituição, em vez do limite default por usuário. Se um usuário pertence a vários grupos de substituição, o limite mais alto se aplica.
Para limites compartilhados e por usuário, você pode configurar uma ou ambas as seguintes ações quando um limite for atingido:
- Enviar alerta : Envia uma notificação por e-mail para os endereços configurados. Usuários retêm acesso ao Unity AI Gateway.
- (Apenas para orçamentos do Genie) Bloquear uso : impede que o usuário faça mais solicitações pelo Unity AI Gateway. O usuário vê uma mensagem de que seu orçamento está esgotado. O acesso é retomado depois que o orçamento é redefinido ou um administrador aumenta o limite.
Limitações
-
Os orçamentos do Unity AI Gateway atualmente rastreiam a inferência de pagamento por token e ai_query (em lote). Taxa de transferência de provisionamento e a inferência de modelo externo não estão sendo rastreadas atualmente.
-
Cada orçamento suporta um máximo de quatro limites compartilhados e 20 substituições por usuário.
-
Sua account pode ter um máximo de 1.000 orçamentos.
-
Substituições por usuário e bloqueio de uso estão disponíveis apenas para orçamentos Genie.
- Quando o Bloqueio de uso é configurado em um limite, uma pequena quantidade de gastos além do limite ainda pode ocorrer. Solicitações ativas em andamento quando o limite é atingido não são interrompidas, e pode haver um breve atraso antes que o bloqueio seja imposto.
-
Os valores de gastos nos emails de alerta do orçamento, na página de detalhes do orçamento e em
system.billing.usagepodem ser diferentes quando comparados no mesmo ponto no tempo. Isso é esperado, pois cada fonte é atualizada em uma taxa diferente:- Emails de alerta de orçamento : Refletem os gastos no momento em que o alerta foi Trigger.
- Página de detalhes do orçamento : Atualiza com frequência, mas pode mostrar um valor menor do que um email de alerta recente quando visualizado pouco tempo depois.
system.billing.usage: Atualiza a cada poucas horas. A consulta de tabelas do sistema logo após o recebimento de um alerta pode retornar um valor de gastos menor do que a página de detalhes do orçamento ou os emails de alerta.
A aplicação do orçamento, incluindo o bloqueio de uso e limites de alerta, é baseada no acompanhamento de gastos quase em tempo real e não é afetada pelo timing de refresh da tabela do sistema.