Unity AIゲートウェイ費用のモニタリング
ベータ版
この機能はベータ版です。
すべてのUnity AI Gatewayトラフィックについて、モデルサービス、ターゲットモデル、およびリクエストするプリンシパルごとにコストを監視し、分析します。
コストの可観測性は、Databricksの請求レコードに基づいています。トークン数、レイテンシー、リクエスターの詳細、リクエストタグなどのリクエストレベルの使用量アナリティクスについては、Unity AI Gatewayサービスのモデル使用量を参照してください。
要件
- お客様のアカウントでUnity AI Gatewayが有効になりました。
- Unity AI GatewayでサポートされているリージョンにあるDatabricksワークスペース。
- アカウントで有効化されている課金利用システムテーブル。「システムテーブルを有効にする」を参照してください。
帰属
Unity AI Gatewayは、課金利用システムテーブル(system.billing.usage)を介してコストの割り当てを提供します。
Unity AI Gateway は、MODEL_SERVINGの課金レコードをsystem.billing.usageのサービス固有のメタデータで拡充するため、Databricks のコストを関連するサービス、ターゲットモデル、プリンシパル、サービスタグに割り当てることができます。完全なスキーマとフィールド定義については、課金利用システムテーブルリファレンスを参照してください。
課金利用システムテーブルには、Databricksホスト型モデルのコスト配分が含まれています。外部モデルの支出については、外部モデルを参照してください。
Unity AI Gateway モデルサービスを介して提供されるリクエストに対して、Databricks は system.billing.usage の MODEL_SERVING レコードに以下のフィールドを設定します。
フィールド | 説明 |
|---|---|
| 要求を受信した Unity AI Gateway モデルサービスの名前。これは、 |
| Unity AI Gateway モデルサービスのID。 |
| リクエストを処理した宛先モデルです。たとえば |
| リクエストを処理したターゲットのID。 |
| リクエストを発行したユーザーまたはDatabricksサービスプリンシパル。 |
| Unity AI Gatewayモデルサービスで設定されたサービス タグ（ |
Unity AI Gateway を介してルーティングされるリアルタイムおよびバッチ推論リクエストのこれらのフィールドにデータが入力されます。
外部モデル
Unity Catalogでモデルプロバイダーサービスを介して外部モデルにルーティングされるリクエストの場合、Databricksはトークンの使用量と外部プロバイダーが公開している価格から、各リクエストの推定米ドル費用を計算します。費用は1時間ごとに集計され、system.ai_gateway.external_model_spend システムテーブルに記録されます。このテーブルを使用して、モデルプロバイダーサービス、ターゲットモデル、要求元のプリンシパルごとに外部モデルの費用を分析します。
外部モデルの費用は、外部プロバイダーの公開価格を使用して計算され、情報提供のみを目的としています。これらの数値は最終的なプロバイダーの請求書に反映されない場合があり、Databricksは第三者の請求の不一致について責任を負いません。
外部モデル支出スキーマ
system.ai_gateway.external_model_spendテーブルのスキーマは次のとおりです。
列名 | Type | 説明 |
|---|---|---|
| STRING | 集計された支出記録の一意の識別子。 |
| STRING | アカウントID。 |
| STRING | モデルプロバイダーサービスが構成されているワークスペースのID。 |
| DATE | 使用状況レコードの日付 ( |
| TIMESTAMP | 時間単位の集計ウィンドウの開始時刻（UTC） |
| TIMESTAMP | 時間単位の集計ウィンドウの終了時刻 (UTC)。 |
| DATE | レコードがテーブルに取り込まれた日付。 |
| 構造体 | 外部モデルの使用状況に関するメタデータ。これには |
| 構造体 |
|
| STRING |
|
| DECIMALタイプ | 集計ウィンドウの推定コスト（ |
| 構造体 | 適用される価格設定に関するメタデータ。 |
| 構造体 | リクエスタの識別情報（ |
可観測性
組み込みの使用状況ダッシュボードには、コストのモニタリングと経時的なコストの内訳分析を行うための コスト分析 ページが含まれています。コストは、以下を含む複数のディメンションで分析できます。
- モデルサービス
- ターゲットモデル
- リクエスト元のユーザーまたはDatabricksサービスプリンシパル
Databricksのコストに加えて、ダッシュボードにはsystem.ai_gateway.external_model_spendテーブルからの外部モデル支出が含まれます。
ダッシュボードを開くには、Unity AI Gateway ページの右上にある ガバナンス をクリックし、次に 使用状況ダッシュボード をクリックします。ダッシュボードのインポートと更新の詳細については、組み込み使用状況ダッシュボードを参照してください。
コスト監視は、ダッシュボードバージョン0.4以降で利用可能です。アカウント管理者は、最新のテンプレート変更を受け取るためにダッシュボードを更新する必要があります。組み込み使用状況ダッシュボードを参照してください。
コスト分析
Genie Code (エージェントモード) がこれを実行できます。このプロンプト例をお試しください。
Query system.billing.usage to show AI Gateway DBU cost for the past 30 days, broken down by usage_metadata.ai_gateway.endpoint_name, destination model, and requesting user. Filter to MODEL_SERVING records. Show top 10 in each.
Databricksでホストされるモデル
次のクエリは、system.billing.usage での Databricks ホスト型モデルのコストを分析します。コストは、モデルサービス、ターゲットモデル、およびプリンシパルによって分類できます。
モデルサービス別
SELECT
usage_metadata.ai_gateway.endpoint_name AS endpoint_name,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY endpoint_name
ORDER BY dbus DESC;
宛先モデルごと
SELECT
usage_metadata.ai_gateway.destination_model AS destination_model,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY dbus DESC;
ユーザーまたはDatabricks Service Principalによる
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND identity_metadata.run_by IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY dbus DESC;
外部モデル
以下のクエリーは、system.ai_gateway.external_model_spendにおける外部モデル費用を分析します。費用は、モデルプロバイダーサービス、ターゲットモデル、およびリクエストタグによって内訳が示されます。
モデルプロバイダーサービス別
SELECT
usage_metadata.endpoint_name AS model_provider_service,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY model_provider_service
ORDER BY usd DESC;
宛先モデルごと
SELECT
usage_metadata.model AS destination_model,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY usd DESC;
ユーザーまたはDatabricks Service Principalによる
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY usd DESC;
リクエストタグ別
リクエストタグをクエリーにアタッチするには、「使用状況追跡のためのタグリクエスト」を参照してください。
SELECT
custom_tags.request_tags['team'] AS team,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY usd DESC;
制限事項
- Databricksがホストするモデルの費用配分は、
system.billing.usageのMODEL_SERVINGレコードに適用されます。 - トラフィックスプリットやフォールバックなど、複数の宛先を持つモデルサービスの場合、
ai_gateway.destination_modelとai_gateway.destination_idは最終的にリクエストを処理した宛先を特定します。 - Unity Catalogのモデルプロバイダーサービスのみ、外部モデル利用料がサポートされます。
- カスタム プロバイダーの場合、外部モデルの費用追跡は現在サポートされていません。Databricksは、各プロバイダーの公開価格から費用を見積もりますが、カスタムEndpointでは利用できません。