Unity Gatewayの予算を管理する
予算を使用すると、請求レコードに適用されたフィルターを使用して、Unity Gateway の月間支出を監視および管理できます。予算を Unity Gateway 製品に限定して Unity Gateway の支出のみを追跡することも、アカウント全体の予算に Unity Gateway を含めることもできます。
アカウントとワークスペースの管理者は、Governance HubのAIページでAI予算のステータスと支出の概要を表示できます。
Unity Gatewayの予算では、Genie製品の使用状況も追跡されます。Genie専用の予算を設定するには、「Genieの予算とコスト管理」を参照してください。
予算の作成とモニタリングの詳細については、「予算の作成とモニタリング」を参照してください。
要件
- お客様のアカウントでUnity Gatewayが有効になりました。
Unity Gatewayの予算は何をカバーしますか？
Unity Gateway の予算は、Unity Gateway を経由する支出をカバーします：
- トークン単位の従量課金の使用状況
ai_query- Genie.Genieの予算とコスト管理を参照してください。
- （オプション）外部モデルプロバイダー（モデルプロバイダーサービス）。
これらの予算は、以下をカバーしていません：
- プロビジョニング済みスループット
- Unity Gateway を経由せず、スタンドアロンの Model Serving Endpoint に直接送信されるトラフィック
Unity Gatewayにおける予算の仕組み
予算を作成する際は、リソースタイプとして Unity Gateway を選択し、Unity Gateway の支出のみを追跡するようにします。
threshold types : Unity Gateway を対象とする予算の場合、以下を設定できます。
- 共有しきい値 : 予算範囲内のすべてのユーザーに対する共同の支出制限です。
- ユーザーごとのしきい値 : 個々のユーザーに適用される月次制限です。
- ユーザーごとのオーバーライド : 特定のユーザーまたはグループに、デフォルトのユーザーごとのしきい値よりも高い使用上限を付与します。オーバーライドの対象となるユーザーは、デフォルトのユーザーごとの制限ではなく、オーバーライドされた金額まで使用できます。ユーザーが複数のオーバーライドグループに属している場合、最も高いしきい値が適用されます。
共有しきい値とユーザーごとのしきい値では、しきい値に達したときに以下のいずれか、または両方のアクションを設定できます：
- アラートの送信 : 設定されたアドレスにEメール通知を送信します。ユーザーはUnity Gatewayへのアクセス権を保持します。
- 使用をブロック ：ユーザーがUnity Gatewayを介してそれ以上のリクエストを行うことを防ぎます。ユーザーには、予算が上限に達したというメッセージが表示されます。予算がリセットされるか、管理者がthresholdを引き上げると、アクセスが再開されます。
アカウント管理者は、予算詳細ページでほぼリアルタイムの推定支出を確認できます。
外部モデルの使用状況を含める
ベータ版
この機能はベータ版です。これを使用するには、ワークスペース管理者が プレビュー ページから External Model Spend in Budgets を有効にする必要があります。Databricksのプレビューを管理するを参照してください。
Unityゲートウェイの予算を作成する際、 外部モデルの使用量を含める を選択すると、モデルプロバイダーサービスを通じて外部モデルにルーティングされたリクエストによる推定支出が含まれます。
有効にすると、外部モデルの支出が予算の共有thresholdおよびユーザーごとのthresholdにカウントされます。構成されたアラートおよび使用ブロックのアクションは、合計支出がthresholdに達したときに適用されます。このオプションを選択しない場合、予算から外部モデルの支出は除外されますが、Databricksホスト型モデルの使用状況は引き続き含まれます。
Databricks は、トークン使用量と外部プロバイダーの公開価格から外部モデルの費用を推定します。これらの推定値は、最終的なプロバイダーの請求書と異なる場合があります。外部モデルの費用の履歴分析を行うには、system.ai_gateway.external_model_spend システムテーブルに対してクエリーを実行します。外部モデルを参照してください。予算に含まれる外部モデルの費用には、モデルプロバイダーサービスで構成された 価格乗数が反映されます。
予算タグフィルターは、モデルサービスタグに適用されます。リクエストタグは外部モデル支出のシステムテーブルで使用できますが、予算の照合には影響しません。
制限事項
Unity Gatewayの予算は、設定されたthresholdに対して追跡された支出のほぼリアルタイムの概算を提供しますが、実際に発生するコストは設定されたthresholdと異なる場合があります。この機能は、ほぼリアルタイムのコスト管理を支援することを目的としています。最終的な請求額に対する絶対的な支出上限を保証する方法として、この機能を使用しないでください。Databricksは、設定された予算thresholdを超えて発生した費用について責任を負いません。
-
プロビジョニングされた throughput の推論は、現在追跡されていません。
-
各予算は、最大4つの共有しきい値と20のユーザーごとの上書きに対応しています。
-
アカウントには最大1,000個の予算を設定できます。
-
使用をブロックするthresholdは概算で適用されます。 適用にはコストのほぼリアルタイムの推定値が使用されるため、実際の支出は設定されたthresholdを上回ったり下回ったりする可能性があります。これは以下を意味します：
- 実際の支出がthresholdに達する前に、ユーザーがブロックされる場合があります。
- 適用が有効になる前に、thresholdを超える支出が発生する可能性があります。thresholdに達したときに進行中のアクティブなリクエストは中断されません。
system.billing.usageは、実際のDatabricks請求使用量における信頼できる情報源のままです。予算に対して追跡された使用状況と実際のコストとの間に不一致がある場合、Databricksは予算見積もりを遡及的に調整して調整を行うことがあります。外部モデルの使用状況については、実際のプロバイダー料金のソースは外部プロバイダーの請求書となります。 -
予算アラートEメール、予算詳細ページ、
system.billing.usage、およびsystem.ai_gateway.external_model_spendにおける支出額は、同じ時点で比較した場合に異なる可能性があります。各ソースの更新レートが異なるため、これは想定された動作です：- 予算アラートEメール ：アラートがTriggerされた時点での支出を反映します。
- 予算詳細ページ : 頻繁に更新されますが、直後に表示された場合、最新のアラートEメールよりも低い金額が表示されることがあります。
system.billing.usage：数時間ごとに更新されます。アラート受信直後にシステムテーブルをクエリすると、予算の詳細ページやアラートEメールよりも低い支出額が返される場合があります。system.ai_gateway.external_model_spend: 外部モデルの推定支出を1時間ごとに更新します。これらの推定額は、最終的なプロバイダーの請求額とは異なる場合があります。
予算の適用は、使用ブロックとアラート threshold を含め、ほぼリアルタイムの費用追跡に基づいており、システムテーブルの更新タイミングには影響されません。