Unity AIゲートウェイの予算を管理
予算は、請求レコードに適用されるフィルターを使用して、毎月のUnity AI Gatewayの費用を監視および管理するのに役立ちます。予算を Unity AI Gateway 製品に限定して、Unity AI Gatewayの支出のみを追跡することも、アカウント全体の予算にUnity AI Gatewayを含めることもできます。
アカウントとワークスペースの管理者は、Governance HubのAIページでAI予算のステータスと支出の概要を表示できます。
Unity AI Gateway の予算では、Genie 製品の使用状況も追跡されます。Genieに特化して予算を設定するには、Genieの予算とコスト管理を参照してください。
予算の作成とモニタリングの詳細については、「予算の作成とモニタリング」を参照してください。
要件
- お客様のアカウントでUnity AI Gatewayが有効になりました。
Unity AIゲートウェイでの予算のしくみ
予算を作成する際は、リソースタイプとして Unity AI Gateway を選択し、トークン単位の従量課金、ai_query推論、オプションの外部モデル使用状況を含むUnity AI Gatewayの支出のみを追跡します。
しきい値タイプ : Unity AI Gatewayにスコープ設定された予算については、以下を設定できます。
- 共有しきい値 : 予算範囲内のすべてのユーザーに対する共同の支出制限です。
- ユーザーごとのしきい値 : 個々のユーザーに適用される月次制限です。
- ユーザーごとのオーバーライド : 特定のユーザーまたはグループに、デフォルトのユーザーごとのしきい値よりも高い使用上限を付与します。オーバーライドの対象となるユーザーは、デフォルトのユーザーごとの制限ではなく、オーバーライドされた金額まで使用できます。ユーザーが複数のオーバーライドグループに属している場合、最も高いしきい値が適用されます。
共有しきい値とユーザーごとのしきい値では、しきい値に達したときに以下のいずれか、または両方のアクションを設定できます：
- アラートを送信 : 設定されたアドレスに Eメール通知を送信します。ユーザーは Unity AI Gateway へのアクセスを維持します。
- 使用をブロック : ユーザーがUnity AI Gatewayを介してそれ以上のリクエストを行うことを防ぎます。ユーザーは予算が使い果たされたというメッセージを受け取ります。予算がリセットされるか、管理者がしきい値を引き上げた後にアクセスが再開されます。
アカウント管理者は、予算詳細ページでほぼリアルタイムの推定支出を確認できます。
外部モデルの使用状況を含める
ベータ版
この機能はベータ版です。これを使用するには、ワークスペース管理者が プレビュー ページから External Model Spend in Budgets を有効にする必要があります。Databricksのプレビューを管理するを参照してください。
Unity AI Gatewayの予算を作成する際は、 「外部モデルの使用状況を含める」 を選択して、モデルプロバイダーサービスを通じて外部モデルにルーティングされたリクエストからの推定支出を含めます。
有効にすると、外部モデルの支出が予算の共有thresholdおよびユーザーごとのthresholdにカウントされます。構成されたアラートおよび使用ブロックのアクションは、合計支出がthresholdに達したときに適用されます。このオプションを選択しない場合、予算から外部モデルの支出は除外されますが、Databricksホスト型モデルの使用状況は引き続き含まれます。
Databricksは、トークンの使用状況と外部プロバイダーが公開している価格に基づいて外部モデルの支出を見積もります。これらの推定額は、最終的なプロバイダーの請求額とは異なる場合があります。外部モデル支出の履歴分析を行うには、system.ai_gateway.external_model_spend システムテーブルに対してクエリーを実行します。外部モデルを参照してください。
予算タグフィルターは、モデルサービスタグに適用されます。リクエストタグは外部モデル支出のシステムテーブルで使用できますが、予算の照合には影響しません。
制限事項
Unity AI Gateway の予算は、構成されたthresholdに対して追跡される支出のほぼリアルタイムの概算を提供しますが、実際に発生するコストは構成されたthresholdと異なる場合があります。この機能は、ほぼリアルタイムのコスト管理を支援することを目的としています。最終的な請求額に対する絶対的な支出上限を保証する手段として、この機能を使用しないでください。Databricks は、構成された予算の threshold を超えて発生したコストについて責任を負いません。
-
プロビジョニングされた throughput の推論は、現在追跡されていません。
-
各予算は、最大4つの共有しきい値と20のユーザーごとの上書きに対応しています。
-
アカウントには最大1,000個の予算を設定できます。
-
使用をブロックするthresholdは概算で適用されます。 適用にはコストのほぼリアルタイムの推定値が使用されるため、実際の支出は設定されたthresholdを上回ったり下回ったりする可能性があります。これは以下を意味します：
- 実際の支出がthresholdに達する前に、ユーザーがブロックされる場合があります。
- 適用が有効になる前に、thresholdを超える支出が発生する可能性があります。thresholdに達したときに進行中のアクティブなリクエストは中断されません。
system.billing.usageは、実際のDatabricks請求使用量における信頼できる情報源のままです。予算に対して追跡された使用状況と実際のコストとの間に不一致がある場合、Databricksは予算見積もりを遡及的に調整して調整を行うことがあります。外部モデルの使用状況については、実際のプロバイダー料金のソースは外部プロバイダーの請求書となります。 -
予算アラートEメール、予算詳細ページ、
system.billing.usage、およびsystem.ai_gateway.external_model_spendにおける支出額は、同じ時点で比較した場合に異なる可能性があります。各ソースの更新レートが異なるため、これは想定された動作です：- 予算アラートEメール ：アラートがTriggerされた時点での支出を反映します。
- 予算詳細ページ : 頻繁に更新されますが、直後に表示された場合、最新のアラートEメールよりも低い金額が表示されることがあります。
system.billing.usage：数時間ごとに更新されます。アラート受信直後にシステムテーブルをクエリすると、予算の詳細ページやアラートEメールよりも低い支出額が返される場合があります。system.ai_gateway.external_model_spend: 外部モデルの推定支出を1時間ごとに更新します。これらの推定額は、最終的なプロバイダーの請求額とは異なる場合があります。
予算の適用は、使用ブロックとアラート threshold を含め、ほぼリアルタイムの費用追跡に基づいており、システムテーブルの更新タイミングには影響されません。