Stracからデータを取り込みます。
ベータ版
この機能はベータ版です。ワークスペース管理者は、 プレビュー ページからこの機能へのアクセスを制御できます。Databricksのプレビューを管理するを参照してください。
このページでは、Lakeflow Connect を使用して、管理対象のStrac取り込みパイプラインを作成する方法を示します。
要件
-
取り込みパイプラインを作成するには、まず以下の要件を満たしてください:
-
ワークスペースでUnity Catalogが有効になっている必要があります。
-
Serverless コンピュートはワークスペースで有効にする必要があります。「Serverless コンピュートの要件」を参照してください。
-
新しい接続を作成する予定がある場合は:メタストアに対する
CREATE CONNECTION特権が必要です。Unity Catalogでの特権の管理を参照してください。コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。
-
既存の接続を使用する予定の場合:接続オブジェクトに対する
USE CONNECTION権限またはALL PRIVILEGESを持っている必要があります。 -
ターゲット カタログに対する
USE CATALOG権限が必要です。 -
既存のスキーマに対する
USE SCHEMAおよびCREATE TABLE権限、またはターゲットカタログに対するCREATE SCHEMA権限が必要です。
-
-
Stracから取り込むには、まずDatabricksから認証を構成し、接続を作成してください。Stracへの認証の構成とStrac接続の作成を参照してください。
取り込みパイプラインを作成
Stracコネクタは、defaultソーススキーマの下にある単一のソーステーブルaudit_eventsを取り込みます。詳細については、サポートされているソーステーブルを参照してください。
- Databricks UI
- Declarative Automation Bundles
- Databricks notebook
- Databricksワークスペースのサイドバーで、 データ取り込み をクリックします。
- データの追加 ページで、 Databricks コネクタ の下にある Strac をクリックします。
- 取り込みウィザードの 接続 ページで、Stracの認証情報を格納する接続を選択します。メタストアに対する
CREATE CONNECTION特権をお持ちの場合は、接続を作成 をクリックして、Strac への認証を設定するからの認証情報で接続を作成します。
- 次へ をクリックします。
- イングレーション設定 ページで、パイプラインの名前を入力してください。
- イベント event Logs を書き込むカタログとスキーマを選択します。カタログに対する
USE CATALOGおよびCREATE SCHEMA権限がある場合は、ドロップダウンメニューでスキーマを作成 をクリックしてスキーマを作成します。
- パイプラインの作成および続行 をクリックします。
- ソース ページで、取り込む
audit_eventsテーブルを選択します。 - 保存して続行 をクリックします。
- 宛先 ページで、データをロードするカタログとスキーマを選択します。カタログに対する
USE CATALOG権限とCREATE SCHEMA権限がある場合は、ドロップダウンメニューのスキーマの作成 をクリックしてスキーマを作成します。
- 保存して続行 をクリックします。
- (オプション) スケジュールと通知 ページで、
スケジュールの作成 をクリックします。宛先テーブルを更新する頻度を設定します。
- (任意)
通知を追加 をクリックして、パイプライン操作の成功または失敗のEメール通知を設定します。
- パイプラインの保存と実行 をクリックします。
Stracパイプラインをコードとして管理するには、Declarative Automation Bundlesを使用します。バンドルにはジョブとタスクのYAML定義を含めることができ、Databricks CLIを使用して管理され、さまざまなターゲットワークスペース(開発、ステージング、本番運用など)で共有およびランできます。詳細については、Declarative Automation Bundlesとは?をご覧ください。
-
Databricks CLIを使用してバンドルを作成します:
Bashdatabricks bundle init -
バンドルに2つの新しいリソースファイルを追加します:
- パイプラインの定義ファイル(例えば、
resources/strac_pipeline.yml)。「pipeline.ingestion_definition」を参照してください。および「Examples」。 - データ取り込みの頻度を制御するジョブ定義ファイル(例えば、
resources/strac_job.yml)。
- パイプラインの定義ファイル(例えば、
-
Databricks CLIを使用してパイプラインをデプロイします。
Bashdatabricks bundle deploy
- 次のノートブックを Databricks ワークスペースにインポートします。
Strac 取り込みパイプラインを作成する
-
セル1と2はそのままにしてください。変更しないでください。
-
3番目のセルをパイプライン構成の詳細で変更してください。パイプライン.ingestion_definitionを参照してください。および例。
-
オプションで高度なパイプライン設定を構成します。管理された取り込みパイプラインの一般的なパターンを参照してください。
-
「 すべて実行 」をクリックします。
例
Strac コネクタは、default ソース スキーマで audit_events テーブルを利用可能にします。詳細については、「サポートされているソース テーブル」を参照してください。
監査イベントテーブルを取り込む
- Declarative Automation Bundles
- Databricks notebook
以下のパイプライン定義ファイルはStrac audit_events テーブルを取り込みます:
resources:
pipelines:
strac_pipeline:
name: strac_pipeline
catalog: 'main'
target: 'strac_data'
ingestion_definition:
connection_name: strac_connection
objects:
- table:
source_schema: 'default'
source_table: 'audit_events'
destination_catalog: 'main'
destination_schema: 'strac_data'
destination_table: 'audit_events'
次のパイプライン仕様は、Strac audit_eventsテーブルを取り込みます。
pipeline_name = "strac_pipeline"
connection_name = "<strac-connection>"
pipeline_spec = {
"name": pipeline_name,
"ingestion_definition": {
"connection_name": connection_name,
"objects": [
{
"table": {
"source_schema": "default",
"source_table": "audit_events",
"destination_catalog": "main",
"destination_schema": "strac_data",
"destination_table": "audit_events"
}
}
]
}
}
json_payload = json.dumps(pipeline_spec, indent=2)
create_pipeline(json_payload)
宣言型オートメーションバンドル ジョブ定義ファイル
以下は、Declarative Automation Bundlesで使用するジョブ定義ファイルの例です。ジョブは毎日実行されます。
resources:
jobs:
strac_job:
name: strac_job
schedule:
quartz_cron_expression: '0 0 0 * * ?'
timezone_id: 'UTC'
tasks:
- task_key: strac_ingestion
pipeline_task:
pipeline_id: ${resources.pipelines.strac_pipeline.id}
一般的なパターン
高度なパイプライン構成については、マネージド取り込みパイプラインの一般的なパターンを参照してください。
次のステップ
パイプラインの起動、スケジュール、およびアラートを設定する。一般的なパイプラインのメンテナンス タスクを参照してください。