メインコンテンツまでスキップ
に最終更新

Celigoからデータを取り込む

備考

ベータ版

この機能はベータ版です。ワークスペース管理者は、 プレビュー ページからこの機能へのアクセスを制御できます。Databricksのプレビューを管理するを参照してください。

このページでは、Lakeflow Connect を使用して管理対象の Celigo 取り込みパイプラインを作成する方法について説明します。

要件​

  • 取り込みパイプラインを作成するには、まず次の要件を満たす必要があります。

    • ワークスペースでUnity Catalogが有効になっている必要があります。

    • ワークスペースで Serverless コンピュートを有効にする必要があります。Serverless コンピュートの要件を参照してください。

    • 新しい接続を作成するには、メタストアに対する CREATE CONNECTION 特権が必要です。詳細は、「Unity Catalog での特権の管理」を参照してください。

      コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。

    • 既存の接続を使用するには、接続オブジェクトに対する USE CONNECTION 権限または ALL PRIVILEGES 権限が必要です。

    • ターゲット カタログに対する USE CATALOG 権限が必要です。

    • 既存のスキーマに対する USE SCHEMA および CREATE TABLE 権限、またはターゲットカタログに対する CREATE SCHEMA 権限が必要です。

  • Celigo から取り込むには、まず Databricks から認証を構成し、接続を作成します。Celigo への認証の構成およびCeligo 接続の作成を参照してください。

コネクター オプション​

source_configurations でパイプラインスコープのオプションを設定し、個別オブジェクトでテーブルスコープのオプションを設定します。使用方法については、Examples を参照してください。

オプション

スコープ

必須

適用対象

説明

start_datetime

テーブル

No

audit_logs

最初の同期のバックフィル起動のISO-8601 UTC日時。defaultでは、最初の同期の365日前になります。

オプション

スコープ

必須

適用対象

説明

start_datetime

テーブル

No

audit_logs

最初の同期のバックフィル起動のISO-8601 UTC日時。defaultでは、最初の同期の365日前になります。

取り込みパイプラインを作成​

サポートされているソース テーブルの一覧については、サポートされているソース テーブルを参照してください。

  1. Databricksワークスペースのサイドバーで、 データ取り込み をクリックします。
  2. データの追加 ページの Databricks コネクタ で、 Celigo をクリックします。
  3. 取り込みウィザードの Connection ページで、Celigo 資格情報が格納されている接続を選択します。メタストアに対する CREATE CONNECTION 特権を持っている場合は、 プラスアイコン。 接続の作成 をクリックし、Configure authentication to Celigo の資格情報を使用して接続を作成します。
  4. 次へ をクリックします。
  5. インジェスト セットアップ ページで、パイプラインの名前を入力します。
  6. イベント logs を書き込むカタログとスキーマを選択します。カタログに対する USE CATALOG 権限と CREATE SCHEMA 権限がある場合は、ドロップダウンメニューの プラスアイコン。 スキーマの作成 をクリックしてスキーマを作成します。
  7. パイプラインの作成および続行 をクリックします。
  8. ソース ページで、取り込むテーブルを選択します。
  9. 保存して続行 をクリックします。
  10. [宛先] ページで、データを読み込むカタログとスキーマを選択します。カタログに対する USE CATALOG 権限と CREATE SCHEMA 権限がある場合は、ドロップダウンメニューの プラスアイコン。 スキーマの作成 をクリックしてスキーマを作成します。
  11. 保存して続行 をクリックします。
  12. (オプション) スケジュールと通知 ページで、 プラスアイコン。 スケジュールの作成 をクリックします。宛先テーブルを更新する頻度を設定します。
  13. (オプション) プラスアイコン。 通知の追加 をクリックして、パイプライン操作の成功または失敗に対するEメール通知を設定し、 保存してパイプラインを実行 をクリックします。

例​

Celigoコネクターでは、audit_logs ソーススキーマ内のdefault ソーステーブルを使用できます。テーブルを直接取り込むか、スキーマ全体を取り込みます。

特定のテーブルを取り込む​

このオプションを使用して、テーブルの特定のサブセットを取り込むか、テーブルごとの宛先名義をカスタマイズします。audit_logs オブジェクトでオプションの start_datetime バックフィル起動を設定します。

次のパイプライン定義ファイルは、個々の Celigo テーブルを取り込みます。

YAML
resources:
  pipelines:
    celigo_pipeline:
      name: celigo_pipeline
      catalog: 'main'
      target: 'celigo_data'
      ingestion_definition:
        connection_name: celigo_connection
        objects:
          - table:
              source_schema: 'default'
              source_table: 'audit_logs'
              destination_catalog: 'main'
              destination_schema: 'celigo_data'
              destination_table: 'audit_logs'
              connector_options:
                api_source_connector_options:
                  options:
                    start_datetime: '<start-datetime>'

スキーマ全体を取り込む​

このオプションを使用して、1つの宣言ですべてのCeligoソーステーブルを単一の宛先スキーマに取り込みます。

次のパイプライン定義ファイルは、サポートされているすべての Celigo テーブルを宛先スキーマに取り込みます。

YAML
resources:
  pipelines:
    celigo_pipeline:
      name: celigo_pipeline
      catalog: 'main'
      target: 'celigo_data'
      ingestion_definition:
        connection_name: celigo_connection
        objects:
          - schema:
              source_schema: 'default'
              destination_catalog: 'main'
              destination_schema: 'celigo_data'

Declarative Automation Bundles ジョブ定義ファイル​

以下は、宣言型オートメーションバンドルで使用するジョブ定義ファイルの例です。ジョブは毎日実行されます。

YAML
resources:
  jobs:
    celigo_job:
      name: celigo_job
      schedule:
        quartz_cron_expression: '0 0 0 * * ?'
        timezone_id: 'UTC'
      tasks:
        - task_key: celigo_ingestion
          pipeline_task:
            pipeline_id: ${resources.pipelines.celigo_pipeline.id}

一般的なパターン​

高度なパイプライン構成については、「管理された取り込みパイプラインの一般的なパターン」を参照してください。

次のステップ​

パイプラインの起動、スケジュール、およびアラートの設定を行います。一般的なパイプラインのメンテナンス タスクを参照してください。

その他のリソース​

このページの見出し