Gérer les budgets pour Unity AI Gateway
Les budgets vous aident à surveiller et contrôler les dépenses mensuelles de Unity AI Gateway à l'aide de filtres appliqués aux enregistrements de facturation. Vous pouvez allouer un budget spécifiquement au produit **Unity AI Gateway** pour suivre uniquement les dépenses de Unity AI Gateway, ou inclure Unity AI Gateway dans un budget à l’échelle du compte.
Les administrateurs de compte et de workspace peuvent consulter un résumé de l'état du budget IA et des dépenses sur la page IA dans le Hub de gouvernance.
Les budgets de Unity AI Gateway suivent également l'utilisation du produit Genie. Pour définir spécifiquement des budgets pour Genie, consultez Gérer les budgets et les contrôles des coûts pour Genie.
Pour plus de détails sur la création et le monitoring des budgets, voir Créer et monitorer les budgets.
Exigences
- Unity AI Gateway activée pour votre compte.
Comment fonctionnent les budgets avec Unity AI Gateway
Lors de la création d'un budget, sélectionnez Unity AI Gateway comme type de ressource pour suivre uniquement les dépenses de Unity AI Gateway (paiement par jeton et inférence ai_query).
Threshold types : Pour les budgets dont la portée est limitée à Unity AI Gateway, vous pouvez configurer :
- Thresholds partagés : Une limite de dépenses collective pour tous les utilisateurs dans le cadre du budget.
- **Thresholds par utilisateur** : Une limite mensuelle qui s'applique à chaque utilisateur individuel.
- (Pour les budgets Genie uniquement) **Remplacements par utilisateur** : Accordez à des utilisateurs ou des groupes spécifiques une limite de dépenses supérieure au threshold par utilisateur default. Les utilisateurs couverts par un remplacement peuvent dépenser jusqu'à la quantité de remplacement plutôt que la limite par utilisateur default. Si un utilisateur appartient à plusieurs groupes de remplacement, le threshold le plus élevé s'applique.
Pour les threshold partagés et par utilisateur, vous pouvez configurer une action ou les deux actions suivantes lorsqu’un threshold est atteint :
- **Envoyer une alerte** : envoie une notification par e-mail aux adresses configurées. Les utilisateurs conservent l'accès à Unity AI Gateway.
- (Pour les budgets Genie uniquement) Bloquer l'utilisation : Empêche l'utilisateur d'effectuer d'autres requêtes via Unity AI Gateway. L'utilisateur voit un message indiquant que son budget est épuisé. L'accès reprend après la Reset du budget ou l'augmentation du threshold par un administrateur.
Limitations
-
Les budgets de la Unity AI Gateway suivent actuellement l'inférence par paiement par jeton et ai_query (batch). Le throughput provisionné et l'inférence de modèle externe ne sont actuellement pas suivis.
-
Chaque budget prend en charge un maximum de quatre thresholds partagés et 20 remplacements par utilisateur.
-
Votre compte peut avoir un maximum de 1 000 budgets.
-
Les remplacements par utilisateur et le blocage d'utilisation sont uniquement disponibles pour les budgets Genie.
- Lorsque Bloquer l'utilisation est configuré sur un threshold, une petite quantité de dépenses au-delà du threshold peut encore se produire. Les requêtes actives en cours lorsque le threshold est atteint ne sont pas interrompues, et il peut y avoir un léger délai avant que le blocage ne soit appliqué.
-
Les montants des dépenses dans les e-mails d’alerte budgétaire, la page des détails du budget et
system.billing.usagepeuvent différer lorsqu’ils sont comparés au même moment. Ceci est attendu, car chaque source se met à jour à un rythme différent :- E-mails d'alerte de budget : Reflètent les dépenses au moment où l'alerte a été Trigger.
- Page de détails du budget : des mises à jour fréquentes peuvent afficher un montant inférieur à celui d’un e-mail d’alerte récent si elles sont consultées peu après.
system.billing.usage: Mises à jour toutes les quelques heures. L'interrogation des tables système peu après avoir reçu une alerte peut renvoyer un chiffre de dépenses inférieur à celui de la page des détails du budget ou des e-mails d'alerte.
L'application du budget, y compris le blocage de l'utilisation et les seuils d'alerte, est basée sur le suivi des dépenses en quasi temps réel et n'est pas affectée par le délai de refresh de la table système.