Okta からデータを取り込む
ベータ版
この機能はベータ版です。使用するには、ワークスペース管理者が プレビュー ページから Lakeflow Connect for Okta System Logs を有効にする必要があります。Databricksのプレビューを管理するを参照してください。
宣言型オートメーションバンドルまたは Databricks ノートブックを使用して、system_logs ソーステーブル用の管理された Okta System Logs パイプラインを作成します。
要件
-
To create an ingestion パイプライン, first meet the following requirements:
-
ワークスペースでUnity Catalogが有効になっている必要があります。
-
Serverless コンピュートがワークスペースで有効になっている必要があります。See Serverless コンピュートの要件.
-
新しい接続を作成するには、メタストアに対する
CREATE CONNECTION権限が必要です。Unity Catalog での特権の管理を参照してください。コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。
-
既存の接続を使用するには、接続オブジェクトに対して
USE CONNECTION特権またはALL PRIVILEGESを持っている必要があります。 -
ターゲット カタログに対する
USE CATALOG権限が必要です。 -
既存のスキーマに対して
USE SCHEMAおよびCREATE TABLE権限、またはターゲットカタログに対してCREATE SCHEMA権限を持っている必要があります。
-
-
Databricksから認証を設定し、接続を作成します。Oktaへの認証の構成およびOkta System Logs接続の作成を参照してください。
-
default.system_logsをソースオブジェクトとして使用します。詳細については、サポートされているソーステーブルを参照してください。
コネクターオプション
Okta System Logs コネクタでは、コネクタ固有のパイプラインオプションは定義されていません。接続設定については、接続オプションを参照してください。
取り込みパイプラインを作成する
Declarative Automation Bundles または Databricks ノートブックを使用してパイプラインを作成します。コネクタがベータ版の間は、パイプライン チャンネルを PREVIEW に設定します。
- Declarative Automation Bundles
- Databricks notebook
宣言型オートメーションバンドルを使用して、Okta System Logs パイプラインをコードとして管理します。バンドルにはパイプラインとジョブの YAML 定義を含めることができ、Databricks CLI を使用して管理され、開発、ステージング、本番運用のワークスペース間で共有できます。詳細については、「宣言型オートメーションバンドルとは?」をご覧ください。
-
Databricks CLI を使用してバンドルを作成するには、次の手順を実行します。
Bashdatabricks bundle init -
resources/okta_system_logs_pipeline.ymlなどのパイプライン定義ファイルを追加します。See パイプライン.ingestion_definition および 例。 -
パイプラインをスケジュールするには、
resources/okta_system_logs_job.ymlなどのジョブ定義ファイルを追加します。 -
Databricks CLIを使用してパイプラインをデプロイします:
Bashdatabricks bundle deploy
- 次のノートブックを Databricks ワークスペースにインポートします。
-
セットアップセルは編集しないでください。パイプラインを作成する最後のセルのみを編集します。パイプライン.ingestion_definition を参照してください。および 例。
-
オプションで高度なパイプライン設定を構成します。管理された取り込みパイプラインの一般的なパターンを参照してください。
-
「 すべて実行 」をクリックします。
Examples
Okta System Logs コネクタにより、system_logs ソーステーブルが default ソーススキーマで利用可能になります。
- Declarative Automation Bundles
- Databricks notebook
次のパイプライン定義ファイルは、system_logs テーブルを取り込みます。
resources:
pipelines:
okta_system_logs_pipeline:
name: okta_system_logs_pipeline
channel: PREVIEW
catalog: 'main'
target: 'okta_system_logs_pipeline'
ingestion_definition:
connection_name: okta_system_logs_connection
objects:
- table:
source_schema: 'default'
source_table: 'system_logs'
destination_catalog: 'main'
destination_schema: 'okta_system_logs_data'
destination_table: 'system_logs'
次のパイプライン仕様では、system_logs テーブルを取り込みます。
pipeline_name = "okta_system_logs_pipeline"
connection_name = "<okta-system-logs-connection>"
pipeline_spec = {
"name": pipeline_name,
"channel": "PREVIEW",
"catalog": "main",
"schema": "okta_system_logs_pipeline",
"ingestion_definition": {
"connection_name": connection_name,
"objects": [
{
"table": {
"source_schema": "default",
"source_table": "system_logs",
"destination_catalog": "main",
"destination_schema": "okta_system_logs_data",
"destination_table": "system_logs",
}
}
],
},
}
json_payload = json.dumps(pipeline_spec, indent=2)
create_pipeline(json_payload)
Declarative Automation Bundles ジョブ定義ファイル
次のジョブ定義により、取り込みパイプラインが毎日実行されます。
- Declarative Automation Bundles
resources:
jobs:
okta_system_logs_job:
name: okta_system_logs_job
schedule:
quartz_cron_expression: '0 0 0 * * ?'
timezone_id: 'UTC'
tasks:
- task_key: okta_system_logs_ingestion
pipeline_task:
pipeline_id: ${resources.pipelines.okta_system_logs_pipeline.id}
一般的なパターン
高度なパイプライン構成については、管理対象取り込みパイプラインの一般的なパターンを参照してください。
次のステップ
パイプラインの起動、スケジュール、アラートを設定します。一般的なパイプラインのメンテナンス タスクを参照してください。