メインコンテンツまでスキップ

Unity Gateway で AI の支出を追跡および分析する

Unity Gatewayの支出を、使用状況ダッシュボード、Genie、またはSQLを使用して、モデル、ユーザー、タグ、チーム別に分析します。支出には、Databricksホスト型モデルと外部モデルの推定支出が含まれます。ユーザーが支出できる金額を制限するには、Unity Gatewayの予算と支出制限の設定を参照してください。

トークン数やレイテンシなどのリクエストレベルのアナリティクスについては、「 モデルの使用状況を追跡する」を参照してください。

要件​

使用量および支出のシステムテーブル​

system.ai_gateway.usage リクエスターとサービスの詳細、トークン、レイテンシー、タグを含めて、Unity Gatewayを経由してルーティングされるリクエストを記録します。タスク固有のAI関数リクエストはUnity Gateway予算にカウントされますが、このテーブルには記録されません。課金対象の使用状況を表示するには、「 AI 関数ワークロードのコストを表示する」を参照してください。使用状況テーブルスキーマを参照してください。

利用料は、他の 2 つのシステムテーブルに記録されます。

使用状況ダッシュボードで利用状況を表示します​

組み込みの Unity Gateway 使用状況ダッシュボードを使用すると、支出の傾向を特定し、モデルとユーザーを比較し、チームとプロジェクトに支出を割り当てることができます。これには、Databricksがホストするモデルの支出と、見積もりの外部モデルの支出が含まれます。

Unity Gateway > Govern > Usage Dashboard を開きます。

AIゲートウェイ支出tab

  • 概要 :モデルとユーザーの支出を比較し、変更を追跡し、100万トークンまたはリクエストあたりの平均支出を評価します。
  • 支出 : モデルとユーザー別の支出、トークンの使用量、キャッシュを確認できます。 ユーザー フィルターを使用して分析を絞り込みます。ユーザー、モデル、またはタグで支出をランク付けするには、Genieに尋ねてください。
  • サービスタグ : タグをサービスに適用して、支出をチームまたはプロジェクトに割り当てます。分析の対象を絞り込むには、グローバルフィルタで サービスタグキー と1つ以上の サービスタグ値 エントリを選択します。
  • リクエストタグ : リクエストヘッダーでタグを送信することで、個々のワークロードにコストを配分します。
  • コーディングエージェント セッション : コーディング エージェント tabで高額なセッションを調査し、トークン使用量、モデル、およびサブエージェント アクティビティとともに推定セッション支出を確認します。

使用状況ダッシュボードを設定および更新するには、組み込みの使用状況ダッシュボードを参照してください。

チームとプロジェクトに支出を割り当てる​

Unity Gatewayは、リクエスト元のユーザーに自動的に利用料金を割り当てます。トラフィックにタグを付けて、チームまたはプロジェクトにコストを割り当てます。

  • サービス タグ : 各チームまたはプロジェクトに独自のモデル サービスがある場合に使用します。サービスを経由してルーティングされるすべての要求にタグが継承されるため、一度設定するだけで済みます。
  • リクエストタグ : 複数のチームまたはプロジェクトがモデルサービスを共有する場合に使用します。呼び出し元は、各リクエストでタグを設定します。

サービスタグを追加するには、Unity Gatewayでモデルサービスを開きます。 概要 tabで、 タグ > タグの追加 を選択し、teamとml-platformのようなキーと値を入力します。サービスタグは、system.ai_gateway.usageのendpoint_tagsとsystem.billing.usageのcustom_tagsに表示されます。

要求タグを追加するには、 Databricks-Ai-Gateway-Request-Tags ヘッダーを、文字列のキーと値の JSON オブジェクトとともに送信します。

Text
Databricks-Ai-Gateway-Request-Tags: {"project": "chatbot", "team": "ml-platform"}

SDKとREST APIの例については、リクエストのタグ付けを参照してください。

Databricksホスト型モデルの場合は、サービスタグのみがsystem.billing.usageに到達するため、サービスタグを使用してください。外部モデルの場合は、サービスタグとリクエストタグの両方がsystem.ai_gateway.external_model_spendに表示されます。予算はサービスタグのみと一致します。

Genieを使用して支出に関する質問をする​

ダッシュボードに直接表示されない質問に答えるには、Genieに質問してください。Genieはダッシュボードのデータから回答するため、テーブル名を指定したりSQLを記述したりする必要はありません。

  1. Unity Gateway > Govern > Usage Dashboard を開きます。
  2. Genieに聞く をクリックします。
  3. 自然言語で質問してください。例えば:
    • 過去 30 日間に最も多く費やしたユーザーは誰ですか?
    • ml-platform チームの先月の支出はどれくらいでしたか?
    • 今週最も支出が多かったモデルは何ですか?

ダッシュボード付きのGenieエージェント参照してください。

SQLによるクエリー支出​

繰り返し可能なレポートや正確な結合には、SQLを使用します。

統合された支出ビューを作成する​

このビューは、system.billing.usage に DBU として記録され system.billing.list_prices を使用してリスト価格の米ドルに変換された Databricks ホスト型モデルの支出と、system.ai_gateway.external_model_spend に米ドルで記録された推定外部モデルの支出を組み合わせたものです。すべてのモデルを対象にするには、ビューから選択してください。管理しているスキーマに作成します:

SQL
CREATE OR REPLACE VIEW <catalog>.<schema>.ai_gateway_spend AS
WITH all_spend AS (
SELECT
'databricks_hosted' AS model_source,
u.workspace_id AS workspace_id,
u.usage_date AS usage_date,
u.usage_metadata.ai_gateway.endpoint_name AS model_service_name,
u.usage_metadata.ai_gateway.destination_model AS destination_model,
u.identity_metadata.run_by AS requester,
u.custom_tags AS service_tags,
CAST(NULL AS MAP<STRING, STRING>) AS request_tags,
u.usage_quantity AS dbus,
u.usage_quantity * lp.pricing.effective_list.default AS usd
FROM system.billing.usage u
JOIN system.billing.list_prices lp
ON u.sku_name = lp.sku_name
AND u.cloud = lp.cloud
AND u.usage_unit = lp.usage_unit
AND u.usage_end_time >= lp.price_start_time
AND (lp.price_end_time IS NULL OR u.usage_end_time < lp.price_end_time)
WHERE u.billing_origin_product = 'MODEL_SERVING'
AND u.usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND u.usage_unit = 'DBU'
AND lp.currency_code = 'USD'
UNION ALL
SELECT
'external' AS model_source,
workspace_id,
usage_date,
usage_metadata.endpoint_name,
usage_metadata.model,
identity_metadata.run_by,
custom_tags.endpoint_tags,
custom_tags.request_tags,
NULL,
usage_quantity
FROM system.ai_gateway.external_model_spend
)
SELECT * FROM all_spend;

両方のBranchで、model_service_nameはリクエストを受信したサービスのUnity Catalog完全修飾名です。Databricksホスト型行の場合はモデルサービス、外部行の場合はリクエストをルーティングしたモデルプロバイダーサービスです。workspace_idは、両方のソースでの使用状況に関連付けられたワークスペースのIDです。すべてのモデルのリクエストとトークンはsystem.ai_gateway.usageにありますが、タスク固有のAI関数リクエストは例外で、そこには記録されません。課金対象の使用状況を表示するには、AI 関数ワークロードのコストを表示するを参照してください。dbusは外部行のNULL、request_tagsはホスト型行のNULLです。これらのソースはそれらを記録しないためです。

クエリーの例​

各クエリーはビューから選択を行い、過去30日間を対象とします。

モデル別の支出。model_sourceはDatabricksホスト型モデルと外部モデルを区別します:

SQL
SELECT
destination_model,
model_source,
SUM(usd) AS spend_usd
FROM <catalog>.<schema>.ai_gateway_spend
WHERE usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model, model_source
ORDER BY spend_usd DESC;

リクエストを発行したユーザーまたは Databricks Service Principal による利用料金:

SQL
SELECT
requester,
SUM(usd) AS spend_usd
FROM <catalog>.<schema>.ai_gateway_spend
WHERE requester IS NOT NULL
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY requester
ORDER BY spend_usd DESC;

team サービス・タグ別の利用料:

SQL
SELECT
service_tags['team'] AS team,
SUM(usd) AS spend_usd
FROM <catalog>.<schema>.ai_gateway_spend
WHERE service_tags['team'] IS NOT NULL
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY spend_usd DESC;

代わりにリクエストタグでグループ化するには、service_tagsをrequest_tagsに置き換えてAND model_source = 'external'を追加します。リクエストタグは外部モデルの支出に対してのみ記録されるためです。

カスタム コスト ダッシュボードとレポートを作成する​

Unity Gatewayの支出データはUnity Catalogシステムテーブルに存在するため、データを別のコストツールにエクスポートすることなく、残りのデータに使用するのと同じDatabricksツールでレポートできます。

  • 使用状況ダッシュボードをカスタマイズする : チームが必要とするチャートとフィルタを組み込みダッシュボードに追加します。ダッシュボードを最新のTemplateに更新すると変更が上書きされる可能性があるため、最初にコピーを保存してください。組み込みの使用状況ダッシュボードを参照してください。
  • 支出と独自のデータを結合する :結合された支出ビューを人事ディレクトリなど組織が維持管理するテーブルと結合して、部門、コストセンター、またはマネージャーごとの支出を確認します。
  • 誰が何を見るかを制御する : Unity Catalogの動的ビューと権限を使用して、各チームやマネージャーが自分の支出のみを表示できるようにします。
  • スケジュールに基づいてレポートを配信 : ダッシュボードの更新をEメール、Slack、または Microsoft Teams で通知するユーザーまたはチャンネルを登録します。スケジュールされたダッシュボードの更新とサブスクリプションの管理を参照してください。

部門またはコストセンター別の支出レポート​

Unity Gatewayは支出をユーザー、モデル、タグに割り当てますが、組織図は読み取りません。部門別にレポートするには、結合された支出ビューを、人事システムやIDプロバイダーから同期されたDeltaテーブルなど、組織が管理するユーザー対部門のマッピングに結合します。<catalog>.<schema>.org_directory をマッピングテーブルに置き換えます。これには user_email および department カラムが必要です。

SQL
SELECT
COALESCE(o.department, 'Unmapped') AS department,
SUM(s.usd) AS spend_usd
FROM <catalog>.<schema>.ai_gateway_spend s
LEFT JOIN <catalog>.<schema>.org_directory o
ON s.requester = o.user_email
WHERE s.usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY COALESCE(o.department, 'Unmapped')
ORDER BY spend_usd DESC;

LEFT JOINは、マッピングテーブルに存在しないユーザーの支出を、レポートから除外するのではなく、Unmappedバケットの下で合計に保持します。

管理者のチーム支出ダッシュボードを構築する​

これは組み込みの Unity Gateway 機能ではありません。これは Unity Catalog ビューとダッシュボードを使用し、さらに user_email カラムと manager_email カラムで管理するマッピングテーブルを使用します。

  1. Unity Catalogスキーマにビューを作成します。このビューは、結合された支出ビューをユーザーのEメールに基づいてマッピングテーブルに結合し、リクエスターがビューアーにレポートする行のみを保持します。o.manager_email = current_user() でフィルタリングし、is_account_group_member を持つ財務または管理グループにフルアクセスを許可する動的ビューを使用します。
  2. マネージャーにビューに対するSELECTを付与します。マネージャーはシステムテーブルへのアクセス権を必要としません。
  3. ビューにダッシュボードを構築して、マネージャーと共有します。各閲覧者自身の ID を適用するには、個別のデータ権限を使用するようにダッシュボードを設定します。ダッシュボードのデータ権限を参照してください。

ダッシュボードを共有する前に、テストマネージャーアカウントでビューを検証してください。直属の部下は、マッピングテーブルに含まれている場合にのみ表示されます。多階層の場合は、マッピングテーブルで階層をフラット化してください。

チームが制限に近づいたときにマネージャーにアラートを通知するには、チーム予算のthreshold Eメールをマネージャーに送信します。「アラートの構成と使用量のブロック」を参照してください。

支出の計算方法​

Unity Gatewayは、モデルがどこでランされるかに関係なく、支出を記録します。

  • Databricksホスト型モデルの支出は、system.billing.usageにおけるDBUの使用量であり、system.billing.list_pricesで定価のUSDに変換されます。これは定価を反映したものであり、交渉された割引額や最終請求額ではありません。Unity Gatewayは、MODEL_SERVINGの請求レコードにサービス固有のメタデータを追加するため、関連するサービス、ターゲットモデル、プリンシパル、およびサービスタグにコストを配分できます。完全なスキーマおよびフィールドの定義については、「請求使用量システムテーブルのリファレンス」を参照してください。
  • 外部モデルの支出は、Databricksが各リクエストについてトークン使用量と外部プロバイダーの公開価格から計算し、system.ai_gateway.external_model_spendで時間単位で集計した見積もりです。制限事項 を参照してください。
注記

外部モデルの使用料金は参考情報として提供されます。これらの見積もりは最終的なプロバイダーの請求額を反映していない場合があり、Databricksはサードパーティの請求の不一致について責任を負いません。

交渉による外部価格については、モデルプロバイダーサービスで 価格倍率 を設定してください。

リファレンス​

課金利用状況フィールド​

Unity Gatewayは、リアルタイム推論リクエストとバッチ推論リクエストの両方について、経路指定された system.billing.usage に以下のフィールドを設定します。

フィールド

説明

usage_metadata.ai_gateway.endpoint_name

リクエストを受信したUnity Gatewayモデルサービスの名前。これは、<catalog>.<schema>.<modelservice>形式のUnity Catalog完全修飾名です。

usage_metadata.ai_gateway.endpoint_id

Unity Gateway モデルサービスの ID。

usage_metadata.ai_gateway.destination_model

リクエストを処理した宛先モデルです。たとえば GPT-5.2。

usage_metadata.ai_gateway.destination_id

リクエストを処理したターゲットのID。

identity_metadata.run_by

リクエストを発行したユーザーまたはDatabricksサービスプリンシパル。

custom_tags

team や cost_center など、Unity Gateway モデルサービスで構成されたサービスタグ。

フィールド

説明

usage_metadata.ai_gateway.endpoint_name

リクエストを受信したUnity Gatewayモデルサービスの名前。これは、<catalog>.<schema>.<modelservice>形式のUnity Catalog完全修飾名です。

usage_metadata.ai_gateway.endpoint_id

Unity Gateway モデルサービスの ID。

usage_metadata.ai_gateway.destination_model

リクエストを処理した宛先モデルです。たとえば GPT-5.2。

usage_metadata.ai_gateway.destination_id

リクエストを処理したターゲットのID。

identity_metadata.run_by

リクエストを発行したユーザーまたはDatabricksサービスプリンシパル。

custom_tags

team や cost_center など、Unity Gateway モデルサービスで構成されたサービスタグ。

外部モデルの支出テーブルスキーマ​

system.ai_gateway.external_model_spendテーブルのスキーマは次のとおりです。

列名

Type

説明

record_id

STRING

集計された支出記録の一意の識別子。

account_id

STRING

アカウントID。

workspace_id

STRING

モデルプロバイダーサービスが構成されているワークスペースのID。

usage_date

DATE

使用状況レコードの日付 (usage_start_timeから導出)。

usage_start_time

TIMESTAMP

時間単位の集計ウィンドウの開始時刻(UTC)

usage_end_time

TIMESTAMP

時間単位の集計ウィンドウの終了時刻 (UTC)。

ingestion_date

DATE

レコードがテーブルに取り込まれた日付。

usage_metadata

構造体

外部モデルの使用状況に関するメタデータ。これにはprovider、model、endpoint_id、endpoint_name、destination_id、およびdestination_nameが含まれます。

custom_tags

構造体

endpoint_tagsとrequest_tagsを含む、コスト配分のためのユーザー提供タグ。

usage_unit

STRING

usage_quantityの測定単位。常にUSD。

usage_quantity

DECIMALタイプ

集計ウィンドウの推定コスト(usage_unitで表示)です。

pricing_metadata

構造体

適用される価格設定に関するメタデータ。service_tierとlong_contextを含みます。

identity_metadata

構造体

リクエスタの識別情報(run_byおよびrun_asを含む)。

列名

Type

説明

record_id

STRING

集計された支出記録の一意の識別子。

account_id

STRING

アカウントID。

workspace_id

STRING

モデルプロバイダーサービスが構成されているワークスペースのID。

usage_date

DATE

使用状況レコードの日付 (usage_start_timeから導出)。

usage_start_time

TIMESTAMP

時間単位の集計ウィンドウの開始時刻(UTC)

usage_end_time

TIMESTAMP

時間単位の集計ウィンドウの終了時刻 (UTC)。

ingestion_date

DATE

レコードがテーブルに取り込まれた日付。

usage_metadata

構造体

外部モデルの使用状況に関するメタデータ。これにはprovider、model、endpoint_id、endpoint_name、destination_id、およびdestination_nameが含まれます。

custom_tags

構造体

endpoint_tagsとrequest_tagsを含む、コスト配分のためのユーザー提供タグ。

usage_unit

STRING

usage_quantityの測定単位。常にUSD。

usage_quantity

DECIMALタイプ

集計ウィンドウの推定コスト(usage_unitで表示)です。

pricing_metadata

構造体

適用される価格設定に関するメタデータ。service_tierとlong_contextを含みます。

identity_metadata

構造体

リクエスタの識別情報(run_byおよびrun_asを含む)。

制限事項​

  • Databricksがホストするモデルの費用配分は、system.billing.usageのMODEL_SERVINGレコードに適用されます。
  • トラフィックスプリットやフォールバックなど、複数の宛先を持つモデルサービスの場合、ai_gateway.destination_modelとai_gateway.destination_idは最終的にリクエストを処理した宛先を特定します。
  • Unity Catalogのモデルプロバイダーサービスのみ、外部モデル利用料がサポートされます。
  • 外部モデルの支出追跡は、 カスタム プロバイダーをサポートしていません。Databricksは、各プロバイダーの公開価格から支出を見積もりますが、カスタムEndpointでは公開価格は利用できません。

その他のリソース​