Zoomログからデータを取り込む
ベータ版
この機能はベータ版です。ワークスペース管理者は、 プレビュー ページからこの機能へのアクセスを制御できます。Databricksのプレビューを管理するを参照してください。
このページでは、LakeFlow Connect を使用してマネージド Zoom ログ インジェスト パイプラインを作成する方法について説明します。
要件
-
取り込みパイプラインを作成するには、まず、次の要件を満たす必要があります。
-
ワークスペースでUnity Catalogが有効になっている必要があります。
-
サーバレス コンピュートがワークスペースで有効になっている必要があります。サーバレス コンピュートの要件を参照してください。
-
新しい接続を作成する予定がある場合は、メタストアに対する
CREATE CONNECTION特権が必要です。Unity Catalog での特権の管理を参照してください。コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。
-
既存の接続を使用する場合:接続オブジェクトに対して
USE CONNECTIONまたはALL PRIVILEGESの権限が必要です。 -
ターゲットカタログに対する
USE CATALOG権限が必要です。 -
既存のスキーマに対する
USE SCHEMAおよびCREATE TABLE権限、またはターゲットカタログに対するCREATE SCHEMA権限を持っている必要があります。
-
-
Zoom から取り込むには、まず Databricks から認証を設定し、接続を作成する必要があります。「Zoom への認証を設定する」および「Zoom Logs 接続を作成する」をご覧ください。
取り込みパイプラインを作成
サポートされているソーステーブルの一覧については、「サポートされているソーステーブル」を参照してください。
- Databricks UI
- Declarative Automation Bundles
- Databricks notebook
- Databricksワークスペースのサイドバーで、 データ取り込み をクリックします。
- データの追加 ページの Databricks コネクタ で、 Zoom Logs をクリックします。
- 取り込みウィザードの「 接続 」ページで、Zoomの認証情報を保存している接続を選択します。メタストアに対する
CREATE CONNECTION特権がある場合は、「接続の作成」 をクリックして、「Zoom への認証を構成する」の認証情報を使用して接続を作成できます。
- 次へ をクリックします。
- 「Ingestion setup」ページで、パイプラインの名前を入力します。
- イベントログを書き込むカタログとスキーマを選択してください。スキーマを作成するには、カタログに対する
USE CATALOG権限とCREATE SCHEMA権限をお持ちの場合、ドロップダウンメニューのスキーマの作成 をクリックできます。
- パイプラインの作成および続行 をクリックします。
- **ソース**ページで、取り込むテーブルを選択します。
- 保存して続行 をクリックします。
- 宛先 ページで、データを取り込むカタログとスキーマを選択します。スキーマを作成するには、カタログに対する
USE CATALOG権限とCREATE SCHEMA権限をお持ちの場合、ドロップダウンメニューのスキーマの作成 をクリックできます。
- 保存して続行 をクリックします。
- (オプション) スケジュールと通知 ページで、
スケジュールを作成 をクリックします。宛先テーブルを更新する頻度を設定します。
- (オプション)
通知の追加 をクリックして、パイプライン操作の成功または失敗に関するEメール通知を設定し、次に パイプラインを保存して実行 をクリックします。
宣言型オートメーションバンドルを使用して、Zoomログパイプラインをコードとして管理します。バンドルには、ジョブとタスクの YAML 定義を含めることができ、Databricks CLI を使用して管理され、異なるターゲット ワークスペース(開発、ステージング、本番運用など)で共有および実行できます。詳細については、「宣言型オートメーションバンドルとは」をご覧ください。
-
Databricks CLIを使用してバンドルを作成するには、次の手順を実行します。
Bashdatabricks bundle init -
バンドルに2つの新しいリソースファイルを追加:
- パイプライン定義ファイル(例えば、
resources/zoom_logs_pipeline.yml)です。「パイプライン.ingestion_definition」を参照してください。と例 - データ取り込みの頻度を制御するジョブ定義ファイル(例:
resources/zoom_logs_job.yml)。
- パイプライン定義ファイル(例えば、
-
Databricks CLIを使用してパイプラインをデプロイする:
Bashdatabricks bundle deploy
- 次のノートブックをDatabricksワークスペースにインポートしてください:
-
セル1とセル2はそのままにしてください。変更しないでください。
-
セル3をパイプライン構成の詳細で変更してください。「パイプライン.ingestion_definition」を参照してください。と例。
-
オプションで詳細パイプライン設定を設定します。管理対象の取り込みパイプラインの共通パターンを参照してください。
-
「 すべて実行 」をクリックします。
例
Zoom Logsコネクタは、defaultソーススキーマで2つのソーステーブル(activity_logsおよびoperation_logs)を利用可能にします。個々のテーブルまたはスキーマ全体を取り込みます。
取り込むテーブルを指定する
このオプションを使用して、特定のテーブルのサブセットを取り込むか、テーブルごとに宛先名をカスタマイズします。
resources:
pipelines:
zoom_logs_pipeline:
name: zoom_logs_pipeline
catalog: 'main'
target: 'zoom_logs_data'
ingestion_definition:
connection_name: zoom_logs_connection
objects:
- table:
source_schema: 'default'
source_table: 'activity_logs'
destination_catalog: 'main'
destination_schema: 'zoom_logs_data'
destination_table: 'activity_logs'
- table:
source_schema: 'default'
source_table: 'operation_logs'
destination_catalog: 'main'
destination_schema: 'zoom_logs_data'
destination_table: 'operation_logs'
スキーマ全体を取り込む
このオプションを使用すると、すべての Zoom Logs ソース テーブルを1つの宣言で単一の宛先スキーマに取り込むことができます。
resources:
pipelines:
zoom_logs_pipeline:
name: zoom_logs_pipeline
catalog: 'main'
target: 'zoom_logs_data'
ingestion_definition:
connection_name: zoom_logs_connection
objects:
- schema:
source_schema: 'default'
destination_catalog: 'main'
destination_schema: 'zoom_logs_data'
宣言型オートメーションバンドル ジョブ定義ファイル
以下は、宣言型オートメーションバンドルで使用するジョブ定義ファイルの例です。ジョブは毎日実行されます。
resources:
jobs:
zoom_logs_job:
name: zoom_logs_job
schedule:
quartz_cron_expression: '0 0 0 * * ?'
timezone_id: 'UTC'
tasks:
- task_key: zoom_logs_ingestion
pipeline_task:
pipeline_id: ${resources.pipelines.zoom_logs_pipeline.id}
一般的なパターン
高度なパイプライン構成については、「マネージド取り込みパイプラインの一般的なパターン」を参照してください。
次のステップ
パイプラインの開始、スケジュール、アラートを設定する共通パイプラインメンテナンス タスクを参照してください。