Unity Gatewayのコストを分析する
モデルサービス、ターゲットモデル、およびリクエスト元のプリンシパルごとに、すべてのUnity Gatewayトラフィックのコストを監視および分析します。
アカウントとワークスペースの管理者は、Governance HubのAIページでAI利用額の統合概要を確認できます。
コストの可観測性は、Databricksの請求レコードに基づいています。トークン数、レイテンシー、リクエスターの詳細、リクエストタグなどのリクエストレベルの使用状況アナリティクスについては、モデルの使用状況の追跡を参照してください。
要件
- お客様のアカウントでUnity Gatewayが有効になりました。
- Unity Gatewayがサポートされているリージョン内のDatabricksワークスペース。
- アカウントで有効化されている課金利用システムテーブル。「システムテーブルを有効にする」を参照してください。
帰属
Unity Gatewayは、課金利用システムテーブル (system.billing.usage) を通じてコスト配分を提供します。
Unity Gateway は system.billing.usage 内の MODEL_SERVING 請求レコードにサービス固有のメタデータを付与するため、Databricks のコストを関連するサービス、ターゲットモデル、プリンシパル、およびサービスタグに配分できます。完全なスキーマおよびフィールド定義については、課金利用システムテーブルリファレンスを参照してください。
課金利用システムテーブルには、Databricksホスト型モデルのコスト配分が含まれています。外部モデルの支出については、外部モデルを参照してください。
Unity Gateway モデルサービスを通じて提供されるリクエストに対して、Databricks は system.billing.usage 内の MODEL_SERVING レコードの以下のフィールドに値を入力します：
フィールド | 説明 |
|---|---|
| リクエストを受信したUnity Gatewayモデルサービスの名前。これは、 |
| Unity Gateway モデルサービスの ID。 |
| リクエストを処理した宛先モデルです。たとえば |
| リクエストを処理したターゲットのID。 |
| リクエストを発行したユーザーまたはDatabricksサービスプリンシパル。 |
|
|
Unity Gatewayは、経由するリアルタイム推論リクエストとバッチ推論リクエストの両方に対して、これらのフィールドを自動入力します。
外部モデル
Unity Catalogのモデルプロバイダーサービスを介して外部モデルにルーティングされるリクエストについて、Databricksは、トークン使用量と外部プロバイダーの公開価格から、モデルプロバイダーサービスに構成された任意の価格乗数で調整して、各リクエストの推定USD消費量を計算します。消費量は1時間ごとに集計され、 system.ai_gateway.external_model_spend システムテーブルに記録されます。このテーブルを使用して、モデルプロバイダーサービス、ターゲットモデル、およびリクエスト元のプリンシパルごとの外部モデルの消費量を分析します。
外部モデルの使用料金は参考情報として提供されます。これらの見積もりは最終的なプロバイダーの請求額を反映していない場合があり、Databricksはサードパーティの請求の不一致について責任を負いません。
外部モデル支出スキーマ
system.ai_gateway.external_model_spendテーブルのスキーマは次のとおりです。
列名 | Type | 説明 |
|---|---|---|
| STRING | 集計された支出記録の一意の識別子。 |
| STRING | アカウントID。 |
| STRING | モデルプロバイダーサービスが構成されているワークスペースのID。 |
| DATE | 使用状況レコードの日付 ( |
| TIMESTAMP | 時間単位の集計ウィンドウの開始時刻（UTC） |
| TIMESTAMP | 時間単位の集計ウィンドウの終了時刻 (UTC)。 |
| DATE | レコードがテーブルに取り込まれた日付。 |
| 構造体 | 外部モデルの使用状況に関するメタデータ。これには |
| 構造体 |
|
| STRING |
|
| DECIMALタイプ | 集計ウィンドウの推定コスト（ |
| 構造体 | 適用される価格設定に関するメタデータ。 |
| 構造体 | リクエスタの識別情報（ |
可観測性
組み込みの使用状況ダッシュボードには、コストのモニタリングと経時的なコストの内訳分析を行うための コスト分析 ページが含まれています。コストは、以下を含む複数のディメンションで分析できます。
- モデルサービス
- ターゲットモデル
- リクエスト元のユーザーまたはDatabricksサービスプリンシパル
Databricksのコストに加えて、ダッシュボードにはsystem.ai_gateway.external_model_spendテーブルからの外部モデル支出が含まれます。
ダッシュボードを開くには、Unity Gatewayページの右上にある [ガバナンス] をクリックし、 [使用状況ダッシュボード] をクリックします。ダッシュボードのインポートおよび更新の詳細については、組み込みの使用状況ダッシュボードを参照してください。
コスト監視は、ダッシュボードバージョン0.4以降で利用可能です。アカウント管理者は、最新のテンプレート変更を受け取るためにダッシュボードを更新する必要があります。組み込み使用状況ダッシュボードを参照してください。
コスト分析
Genie Code (エージェントモード) がこれを実行できます。このプロンプト例をお試しください。
Query system.billing.usage to show AI Gateway DBU cost for the past 30 days, broken down by usage_metadata.ai_gateway.endpoint_name, destination model, and requesting user. Filter to MODEL_SERVING records. Show top 10 in each.
Databricksでホストされるモデル
次のクエリは、system.billing.usage での Databricks ホスト型モデルのコストを分析します。コストは、モデルサービス、ターゲットモデル、およびプリンシパルによって分類できます。
モデルサービス別
SELECT
usage_metadata.ai_gateway.endpoint_name AS endpoint_name,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY endpoint_name
ORDER BY dbus DESC;
宛先モデルごと
SELECT
usage_metadata.ai_gateway.destination_model AS destination_model,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY dbus DESC;
ユーザーまたはDatabricks Service Principalによる
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND identity_metadata.run_by IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY dbus DESC;
外部モデル
以下のクエリーは、system.ai_gateway.external_model_spendにおける外部モデル費用を分析します。費用は、モデルプロバイダーサービス、ターゲットモデル、およびリクエストタグによって内訳が示されます。
モデルプロバイダーサービス別
SELECT
usage_metadata.endpoint_name AS model_provider_service,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY model_provider_service
ORDER BY usd DESC;
宛先モデルごと
SELECT
usage_metadata.model AS destination_model,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY usd DESC;
ユーザーまたはDatabricks Service Principalによる
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY usd DESC;
リクエストタグ別
リクエストタグをクエリーにアタッチするには、「使用状況追跡のためのタグリクエスト」を参照してください。
SELECT
custom_tags.request_tags['team'] AS team,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY usd DESC;
制限事項
- Databricksがホストするモデルの費用配分は、
system.billing.usageのMODEL_SERVINGレコードに適用されます。 - トラフィックスプリットやフォールバックなど、複数の宛先を持つモデルサービスの場合、
ai_gateway.destination_modelとai_gateway.destination_idは最終的にリクエストを処理した宛先を特定します。 - Unity Catalogのモデルプロバイダーサービスのみ、外部モデル利用料がサポートされます。
- カスタム プロバイダーの場合、外部モデルの費用追跡は現在サポートされていません。Databricksは、各プロバイダーの公開価格から費用を見積もりますが、カスタムEndpointでは利用できません。