Workday からデータの取り込み
ベータ版
この機能はベータ版です。使用するには、ワークスペース管理者は プレビュー ページから Lakeflow Connect for Workday Activity Logging を有効にする必要があります。Databricksのプレビューを管理するを参照してください。
Lakeflow Connect で管理対象の Workday Activity Logging インジェスト パイプラインを作成し、ユーザー アクティビティ Log イベントを Databricks に取り込みます。
要件
-
取り込みパイプラインを作成するには、最初に次の要件を満たす必要があります。
-
ワークスペースでUnity Catalogが有効になっている必要があります。
-
ワークスペースで Serverless コンピュートを有効にする必要があります。Serverless コンピュートの要件を参照してください。
-
新しい接続を作成するには、メタストアに対する
CREATE CONNECTION特権が必要です。Unity Catalog での特権の管理を参照してください。コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。
-
既存の接続を使用するには、接続オブジェクトに対して
USE CONNECTION権限またはALL PRIVILEGES権限を持っている必要があります。 -
ターゲットカタログに対する
USE CATALOG権限が必要です。 -
既存のスキーマに対する
USE SCHEMAおよびCREATE TABLE権限、またはターゲットカタログに対するCREATE SCHEMA権限が必要です。
-
-
Workday から取り込むには、まず Databricks から認証を構成し、接続を作成します。Workday への認証の構成と Workday アクティビティ監査ログ接続の作成を参照してください。
取り込みパイプラインを作成
サポートされているソーステーブルについては、サポートされているソーステーブルを参照してください。
- Declarative Automation Bundles
- Databricks notebook
宣言型オートメーションバンドルを使用して、Workday Activity Logging パイプラインをコードとして管理します。バンドルには、ジョブとタスクの YAML 定義を含めることができ、Databricks CLI を使用して管理され、異なるターゲット ワークスペース(開発、ステージング、本番運用など)で共有および実行できます。詳細については、「宣言型オートメーションバンドルとは?」をご覧ください。
-
Databricks CLIを使用してバンドルを作成します。
Bashdatabricks bundle init -
バンドルに 2 つの新しいリソース ファイルを追加します。
- パイプライン定義ファイル(例:
resources/workday_activity_logging_pipeline.yml)。「pipeline.ingestion_definition」を参照してください。および Examples。 - データ取り込みの頻度を制御するジョブ定義ファイル(例:
resources/workday_activity_logging_job.yml)。
- パイプライン定義ファイル(例:
-
Databricks CLI を使用してパイプラインをデプロイします。
Bashdatabricks bundle deploy
- 次のノートブックをDatabricksワークスペースにインポートします。
-
セル 1、2、3 はそのままにしておきます。変更しないでください。
-
パイプライン構成の詳細を使用してセル 4 を変更します。パイプライン.ingestion_definition を参照してください。および Examples。
-
オプションで高度なパイプライン設定を構成します。詳細は、マネージド取り込みパイプラインの一般的なパターンを参照してください。
-
「 すべて実行 」をクリックします。
Examples
Workday Activity Logging コネクタにより、default ソーススキーマで 1 つのソーステーブルを利用できるようになります。テーブルまたはスキーマ全体を取り込みます。
特定のテーブルを取り込む
このオプションを使用して、テーブルの宛先命名をカスタマイズします。
- Declarative Automation Bundles
- Databricks notebook
次のパイプライン定義ファイルは、Workday Activity Logging テーブルを取り込みます。
resources:
pipelines:
workday_activity_logging_pipeline:
name: workday_activity_logging_pipeline
catalog: '<destination-catalog>'
target: '<destination-schema>'
channel: PREVIEW
ingestion_definition:
connection_name: '<workday-activity-logging-connection>'
objects:
- table:
source_schema: 'default'
source_table: 'activity_logging'
destination_catalog: '<destination-catalog>'
destination_schema: '<destination-schema>'
destination_table: '<destination-table>'
次のパイプライン仕様は、Workday Activity Logging テーブルを取り込みます:
pipeline_name = "workday_activity_logging_pipeline"
connection_name = "<workday-activity-logging-connection>"
pipeline_spec = {
"name": pipeline_name,
"catalog": "<catalog-name-for-event-logs>",
"schema": "<schema-name-for-event-logs>",
"channel": "PREVIEW",
"ingestion_definition": {
"connection_name": connection_name,
"objects": [
{
"table": {
"source_schema": "default",
"source_table": "activity_logging",
"destination_catalog": "<destination-catalog>",
"destination_schema": "<destination-schema>",
"destination_table": "<destination-table>"
}
}
]
}
}
json_payload = json.dumps(pipeline_spec, indent=2)
create_pipeline(json_payload)
ソーススキーマを取り込む
1つの宣言で default ソーススキーマを取り込むには、このオプションを使用します。スキーマには現在、activity_logging テーブルのみが含まれています。
- Declarative Automation Bundles
- Databricks notebook
次のパイプライン定義ファイルは、default ソーススキーマを宛先スキーマに取り込みます。
resources:
pipelines:
workday_activity_logging_pipeline:
name: workday_activity_logging_pipeline
catalog: '<destination-catalog>'
target: '<destination-schema>'
channel: PREVIEW
ingestion_definition:
connection_name: '<workday-activity-logging-connection>'
objects:
- schema:
source_schema: 'default'
destination_catalog: '<destination-catalog>'
destination_schema: '<destination-schema>'
次のパイプライン仕様では、default ソース スキーマが宛先スキーマに取り込まれます。
pipeline_name = "workday_activity_logging_pipeline"
connection_name = "<workday-activity-logging-connection>"
pipeline_spec = {
"name": pipeline_name,
"catalog": "<catalog-name-for-event-logs>",
"schema": "<schema-name-for-event-logs>",
"channel": "PREVIEW",
"ingestion_definition": {
"connection_name": connection_name,
"objects": [
{
"schema": {
"source_schema": "default",
"destination_catalog": "<destination-catalog>",
"destination_schema": "<destination-schema>"
}
}
]
}
}
json_payload = json.dumps(pipeline_spec, indent=2)
create_pipeline(json_payload)
Declarative Automation Bundles ジョブ定義ファイル
以下は、Declarative Automation Bundles で使用するジョブ定義ファイルの例です。ジョブは毎日実行されます。
- Declarative Automation Bundles
resources:
jobs:
workday_activity_logging_job:
name: workday_activity_logging_job
schedule:
quartz_cron_expression: '0 0 0 * * ?'
timezone_id: 'UTC'
tasks:
- task_key: workday_activity_logging_ingestion
pipeline_task:
pipeline_id: ${resources.pipelines.workday_activity_logging_pipeline.id}
一般的なパターン
高度なパイプライン構成については、マネージドインジェストパイプラインの一般的なパターンを参照してください。
次のステップ
起動、スケジュール、およびパイプラインでアラートを設定します。See Common パイプライン maintenance タスク.