特徴量ビュー

備考

プレビュー

この機能は パブリック プレビュー段階です。ワークスペース管理者は、 プレビュー ページからこの機能へのアクセスを制御できます。Databricksのプレビューを管理するを参照してください。

フィーチャービューを使用すると、データソースから特徴量を定義およびコンピュートできます。特徴量は、さまざまなソース（Deltaテーブル、Kafkaストリーム、リクエスト時データ）とコンピュテーション（時間枠集計、単純な列選択など）を使用して定義できます。このガイドでは、以下のワークフローについて説明します。

• 特徴量開発 ワークフロー

  • create_featureを使用して、モデルのトレーニングとサービング ワークフローで使用できる Unity Catalog 特徴量オブジェクトを定義します。
  • あるいは、 Featureオブジェクトをローカルで構築し、後でregister_featureを使用してそれらをUnity Catalogに永続化することもできます。 ローカルで構築された特徴量は、登録前にcreate_training_setと組み合わせて使用できます。

• モデルトレーニング ワークフロー

  • create_training_set を使用して、Machine Learning の特定時点集計特徴量を計算します。Feature Views でのトレーニングに関する詳細なドキュメントについては、「Feature Views でモデルをトレーニングする」を参照してください。

• 特徴量のマテリアライズとサービング のワークフロー

  • create_featureで特徴量を定義するか、 get_featureを使用して特徴量を取得した後、 materialize_featuresを使用して、その特徴量または特徴量のセットをオフライン ストアにマテリアライズして効率的に再利用したり、オンライン ストアにマテリアライズしてオンラインで提供したりできます。
  • オフラインバッチトレーニングデータセットを準備するには、マテリアライズドビューとcreate_training_setを使用します。

API の詳細については、「Feature Views API リファレンス」を参照してください。

要件

• Serverless コンピュートまたは従来のコンピュート クラスター (Databricks Runtime 17.0 機械学習以降を実行)。

• カスタムPythonパッケージをインストールする必要があります。ノートブックをランするたびに、次のコード行をランします。

  Python

  %pip install databricks-feature-engineering>=0.16.0
  dbutils.library.restartPython()

クイックスタートの例

実行可能なクイックスタートノートブックについては、「ノートブックの例」を参照してください。

Python

from databricks.feature_engineering import FeatureEngineeringClient
from databricks.feature_engineering.entities import (
    CronSchedule, DeltaTableSource, Feature, AggregationFunction,
    Sum, Avg, ColumnSelection, TableTrigger,
    TumblingWindow, SlidingWindow,
    OfflineStoreConfig, OnlineStoreConfig,
)
from datetime import timedelta

CATALOG_NAME = "main"
SCHEMA_NAME = "feature_store"
TABLE_NAME = "transactions"

# 1. Create data source
source = DeltaTableSource(
    catalog_name=CATALOG_NAME,
    schema_name=SCHEMA_NAME,
    table_name=TABLE_NAME,
)

# 2. Define features locally (no catalog/schema needed yet)
avg_feature = Feature(
    source=source,
    entity=["user_id"],
    timeseries_column="transaction_time",
    function=AggregationFunction(Avg(input="amount"), TumblingWindow(window_duration=timedelta(days=30))),
    name="avg_transaction_30d",
)

sum_feature = Feature(
    source=source,
    entity=["user_id"],
    timeseries_column="transaction_time",
    function=AggregationFunction(Sum(input="amount"), SlidingWindow(window_duration=timedelta(days=7), slide_duration=timedelta(days=1))),
    # name auto-generated: "amount_sum_sliding_7d_1d"
)

fe = FeatureEngineeringClient()

# 3. Explore features with compute_features
feature_df = fe.compute_features(features=[avg_feature, sum_feature])
feature_df.display()

# 4. Create training set using local features
# `labeled_df` should have columns "user_id", "transaction_time", and "target".
training_set = fe.create_training_set(
    df=labeled_df,
    features=[avg_feature, sum_feature],
    label="target",
)
training_set.load_df().display()

# 5. Register features in Unity Catalog
avg_feature = fe.register_feature(
    feature=avg_feature,
    catalog_name=CATALOG_NAME,
    schema_name=SCHEMA_NAME,
)
sum_feature = fe.register_feature(
    feature=sum_feature,
    catalog_name=CATALOG_NAME,
    schema_name=SCHEMA_NAME,
)

# 6. Or use create_feature for a one-step define-and-register workflow
latest_amount = fe.create_feature(
    source=source,
    function=ColumnSelection("amount"),
    entity=["user_id"],
    timeseries_column="transaction_time",
    catalog_name=CATALOG_NAME,
    schema_name=SCHEMA_NAME,
    name="latest_amount",
)

# 7. Train model
with mlflow.start_run():
    training_df = training_set.load_df()

    # training code

    fe.log_model(
        model=model,
        artifact_path="recommendation_model",
        flavor=mlflow.sklearn,
        training_set=training_set,
        registered_model_name=f"{CATALOG_NAME}.{SCHEMA_NAME}.recommendation_model",
    )

# 8. (Optional) Materialize features for serving
# Features must be registered in UC before calling materialize_features
online_config = OnlineStoreConfig(
    catalog_name=CATALOG_NAME,
    schema_name=SCHEMA_NAME,
    table_name_prefix="customer_features_serving",
    online_store_name="customer_features_store",
)

# Aggregation features use CronSchedule and support both offline and online configs
fe.materialize_features(
    features=[avg_feature, sum_feature],
    offline_config=OfflineStoreConfig(
        catalog_name=CATALOG_NAME,
        schema_name=SCHEMA_NAME,
        table_name_prefix="customer_features",
    ),
    online_config=online_config,
    trigger=CronSchedule(
        quartz_cron_expression="0 0 * * * ?",  # Hourly
        timezone_id="UTC",
    ),
)

# ColumnSelection features use TableTrigger and only support online config
fe.materialize_features(
    features=[latest_amount],
    online_config=online_config,
    trigger=TableTrigger(),
)

「ノートブックの例」

フィーチャービュー クイックスタート ノートブック

ノートブックを新しいタブで開くOpen in Databricks

ストリーミング特徴量

Deltaテーブルからのバッチ特徴量に加えて、リアルタイムのユースケース向けにストリーミングソースから特徴量を定義できます。ストリーミング特徴量はバッチ特徴量と同じFeatureクラス（同じFeatureコンストラクター、同じ集約関数、同じトレーニングおよびサービングワークフロー）を使用するため、バッチからリアルタイムへのアップグレードに必要なコード変更は最小限です。具現化されると、ストリーミング特徴量は、サブ秒のエンドツーエンドの鮮度（p99レイテンシー200ms）をモデルサービングEndpointに直接提供します。

ストリーミング機能を使用するには、まず「ストリームを設定」し、その後、StreamSourceを使用して参照します。ストリームソースは入力としてKafkaをサポートし、トレーニング用のデータの履歴コピーとして取り込み（Delta）テーブルを自動的に維持します。

ストリーミング機能を定義する

StreamSourceはストリームをその3部構成の名前（catalog.schema.stream_name）で参照します。ストリームはUnity Catalogのセキュリティ保護可能なオブジェクトではありませんが、Unity Catalogスキーマにスコープされており、アクセスはストリームの取り込みテーブルによって管理されます。エンティティ、時系列、および関数定義での列の参照には、Kafkaメッセージのどの部分を読み取るかを示すために、value.またはkey.を接頭辞として付ける必要があります。ネストされたフィールドは、ドット表記（例：value.user.address.city）を使用してサポートされています。

Python

from databricks.feature_engineering import FeatureEngineeringClient
from databricks.feature_engineering.entities import (
    StreamSource,
    Feature,
    AggregationFunction,
    Sum,
    RollingWindow,
)
from datetime import timedelta

client = FeatureEngineeringClient()

stream_source = StreamSource(
    full_name="my_catalog.my_schema.my_stream",
)

feature = Feature(
    name="user_purchase_sum",
    source=stream_source,
    entity=["value.user_id"],
    timeseries_column="value.event_time",
    function=AggregationFunction(
        operator=Sum(input="value.amount"),
        time_window=RollingWindow(window_duration=timedelta(hours=1)),
    ),
)

「StreamSource のフィルター条件」

filter_conditionを使用して、DeltaTableSourceの場合と同様に集計前のストリームから行をフィルター処理します。

Python

stream_source = StreamSource(
    full_name="my_catalog.my_schema.my_stream",
    filter_condition="value.event_type = 'purchase'",
)

ストリームからの列の選択

ColumnSelection の特徴量はストリーミングソースと連携します。選択した列は、時点精度を尊重しながら、各エンティティのストリームからの最新の値を表します。

Python

from databricks.feature_engineering.entities import ColumnSelection

passenger_count = Feature(
    name="passenger_count",
    source=stream_source,
    entity=["value.user_id"],
    timeseries_column="value.event_time",
    function=ColumnSelection(column="value.passenger_count"),
)

入れ子になったフィールドにアクセスする

ドット表記を使用してネストされたJSONフィールドにアクセスできます（例：value.nested_field.amount）。サービング時、リクエストペイロードとレスポンスはリーフノード名を使用します（例：value.amountではなくamount）。リーフノード名は、モデルまたはFeature Spec内のすべてのエンティティ、時系列、および特徴量出力列で一意である必要があります。これは、サービングEndpointがリーフ名を使用して値をルーティングするためです。

ストリーミング特徴量の時間ウィンドウ

ストリーミング機能は集計に対してRollingWindowのみをサポートします。ローリングウィンドウは、最新のデータに対して継続的に再計算されます。これは、ストリーミングソースのリアルタイムの特性と一致します。TumblingWindowおよびSlidingWindowは、固定の履歴間隔でのバッチ計算のために設計されています。

ストリーミング特徴量例ノートブック

ストリーミング特徴量ビュークイックスタートノートブック

ノートブックを新しいタブで開くOpen in Databricks

モデルトレーニングと推論

log_model()、score_batch()、およびcreate_training_set()などの特徴量ビューを使用してモデルをトレーニングし、バッチ推論を実行するには、特徴量ビューを使用したモデルのトレーニングを参照してください。

特徴量のマテリアライズ

特徴量を定義した後、トレーニングおよびサービングのワークフローで効率的に再利用するため、オフラインまたはオンラインストアにマテリアライズできます。特徴量をマテリアライズした後、CPU モデルサービングを使用してモデルをサービングできます。詳細については、「特徴量ビューのマテリアライズ」を参照してください。

ベストプラクティス

特徴量の命名

• ビジネスに不可欠な特徴量にはわかりやすい名前を使用します。
• チーム間で一貫した命名規則に従ってください。
• 特徴量の開発を始める際は、自動生成された名前を使用してください。

時間ウィンドウ

• ウィンドウ境界をビジネスサイクル（日次、週次）に合わせます。
• 短い期間は最近の傾向を捉えますが、ノイズが発生する可能性があります。より長いウィンドウは、より安定した特徴量の分布を生成しますが、最近の行動の変化を見逃す可能性があります。ユースケースに応じて、基になるシグナルがどのくらい早く変化するかに基づいて選択します。たとえば、7日間のウィンドウは日々の変動を平滑化し、一貫したモデル入力を生成します。一方、1時間のウィンドウは行動の変化に素早く反応しますが、モデルのパフォーマンスを低下させる分散を導入する可能性があります。分布がシフトしたときにモデルの精度が低下する場合、入力の安定化のために、より長いウィンドウを使用します。
• タンブリングウィンドウとスライディングウィンドウは、ローリング (連続) ウィンドウよりもスケーラブルです。ほとんどのユースケースでは、スライディングウィンドウから始めます。

パフォーマンス

• データスキャンを最小限に抑えるため、同じデータソースからの特徴量を単一のmaterialize_features呼び出しでマテリアライズします。
• マテリアライズ時のグループ化を改善するため、同じデータソース上のフィーチャーには同じ粒度（例えば、すべての1時間またはすべての1日スライドの期間）を使用します。

エンティティ列とフィルター条件

同じソーステーブルの機能を使用する場合は、この決定ガイドを使用します：

異なる集計レベルが必要な場合は、entity (create_feature上) を使用します：

• 顧客レベルの特徴量 (顧客ごとに 1 行): entity=["customer_id"]
• 顧客と販売者の特徴量 (顧客ごとに複数の行): entity=["customer_id", "merchant_id"]
• 異なる集計レベルで同じDeltaTableSourceを共有できます ：各特徴量定義で異なるentity値を指定してください

同じ集計レベルで行をフィルタリングする必要がある場合は、DeltaTableSourceでfilter_conditionを使用してください。

• 高額トランザクションのみ : filter_condition="amount > 100" (顧客ごとに集計されます)
• 完了した注文のみ ：filter_condition="status = 'completed'" （顧客ごとに引き続き集計されます）

経験則として、 変更によってエンティティ値ごとの行数が変わる場合は、特徴量定義で異なるentity値を使用してください。同じ集計に寄与する行をフィルタリングするだけであれば、ソースでfilter_conditionを使用してください。

一般的なパターン

顧客アナリティクス

Python

from databricks.feature_engineering.entities import AggregationFunction, Sum, Count, RollingWindow

fe = FeatureEngineeringClient()
features = [
    # Recency: Number of transactions in the last day
    fe.create_feature(catalog_name="main", schema_name="ecommerce", source=transactions,
            entity=["user_id"], timeseries_column="transaction_time",
            function=AggregationFunction(Count(input="transaction_id"), RollingWindow(window_duration=timedelta(days=1)))),

    # Frequency: transaction count over the last 90 days
    fe.create_feature(catalog_name="main", schema_name="ecommerce", source=transactions,
            entity=["user_id"], timeseries_column="transaction_time",
            function=AggregationFunction(Count(input="transaction_id"), RollingWindow(window_duration=timedelta(days=90)))),

    # Monetary: total spend in the last month
    fe.create_feature(catalog_name="main", schema_name="ecommerce", source=transactions,
            entity=["user_id"], timeseries_column="transaction_time",
            function=AggregationFunction(Sum(input="amount"), RollingWindow(window_duration=timedelta(days=30)))),
]

トレンド分析

Python

# Compare recent vs. historical behavior
fe = FeatureEngineeringClient()
recent_avg = fe.create_feature(
    catalog_name="main", schema_name="ecommerce",
    source=transactions, entity=["user_id"], timeseries_column="transaction_time",
    function=AggregationFunction(Avg(input="amount"), RollingWindow(window_duration=timedelta(days=7))),
)

historical_avg = fe.create_feature(
    catalog_name="main", schema_name="ecommerce",
    source=transactions, entity=["user_id"], timeseries_column="transaction_time",
    function=AggregationFunction(Avg(input="amount"), RollingWindow(window_duration=timedelta(days=7), delay=timedelta(days=7))),
)

「季節パターン」

Python

# Same day of week, 4 weeks ago
fe = FeatureEngineeringClient()
weekly_pattern = fe.create_feature(
    catalog_name="main", schema_name="ecommerce",
    source=transactions, entity=["user_id"], timeseries_column="transaction_time",
    function=AggregationFunction(Avg(input="amount"), RollingWindow(window_duration=timedelta(days=1), delay=timedelta(weeks=4))),
)

制限事項

• create_training_set APIで使用する場合、トレーニング（ラベル付き）データセットと特徴量定義の間で、エンティティと時系列列の名前が一致している必要があります。
• トレーニングデータセットでlabel列として使用される列名は、Featureを定義するために使用されるソーステーブルに存在してはいけません。
• create_feature APIでは、限られた関数 ( UDAF ) がサポートされています。 サポートされている関数を参照してください。
• エンティティ列は、DATE型またはTIMESTAMP型にすることはできません。
• RequestSource ScalarDataTypeで定義されているスカラーデータ型（INTEGER、FLOAT、BOOLEAN、STRING、DOUBLE、LONG、TIMESTAMP、DATE、SHORT）のみをサポートします。配列、マップ、構造体などの複合型はサポートされていません。
• RequestSource 集計関数または時間ウィンドウはサポートしていません。使用できるのはColumnSelection関数のみです。
• エンティティ列名、時系列列名、およびリクエスト機能列名のセットは、トレーニングセットまたはサービングEndpoint内のすべてのソースでグローバルに一意である必要があります。

マテリアライズに関する制限事項については、 「制限事項」を参照してください。