メインコンテンツまでスキップ
に最終更新

SurveyMonkeyからデータを取り込む

備考

ベータ版

この機能はベータ版です。使用するには、ワークスペース管理者は、 プレビューページ から Lakeflow Connect for SurveyMonkey を有効にする必要があります。Databricksのプレビューを管理するを参照してください。

SurveyMonkeyデータをUnity Catalogテーブルに取り込む管理されたLakeflow Connectパイプラインを作成します。Databricks UI、宣言型自動化バンドル、または Databricks ノートブックを使用します。

要件​

  • 取り込みパイプラインを作成するには、まず次の要件を満たす必要があります。

    • ワークスペースでUnity Catalogが有効になっている必要があります。

    • ワークスペースでServerless コンピュートを有効にする必要があります。Serverless コンピュートの要件を参照してください。

    • 新しい接続を作成するには、メタストアに対する CREATE CONNECTION 特権が必要です。Unity Catalog での権限の管理を参照してください。

      コネクタが UI ベースのパイプライン オーサリングをサポートしている場合、管理者はこのページのステップを完了することで、接続とパイプラインを同時に作成できます。 ただし、パイプラインを作成するユーザーが API ベースのパイプライン オーサリングを使用している場合、または管理者以外のユーザーである場合、管理者はまずカタログ エクスプローラーで接続を作成する必要があります。 「管理対象取り込みソースへの接続」を参照してください。

    • 既存の接続を使用するには、接続オブジェクトに対する USE CONNECTION 権限または ALL PRIVILEGES 権限を持っている必要があります。

    • ターゲットカタログに対する USE CATALOG 権限が必要です。

    • 既存のスキーマに対して USE SCHEMA および CREATE TABLE 特権、またはターゲットカタログに対して CREATE SCHEMA 特権が必要です。

  • SurveyMonkey から取り込むには、まず Databricks で認証を構成し、接続を作成します。SurveyMonkey への認証を構成するおよびSurveyMonkey 接続を作成するを参照してください。

コネクタのオプション​

SurveyMonkeyコネクタが受け付けるオプション、その適用範囲、および適用対象のテーブルについては、コネクタ オプションを参照してください。パイプライン スコープのオプションを source_configurationsで設定します。使用方法については 例を参照してください。

取り込みパイプラインを作成​

サポートされているソーステーブルの一覧については、サポートされているソーステーブルをご覧ください。

  1. Databricksワークスペースのサイドバーで、 データ取り込み をクリックします。
  2. データの追加 ページの Databricks コネクタ で、 SurveyMonkey をクリックします。
  3. 取り込みウィザードの 接続 ページで、SurveyMonkey 認証情報を保存する接続を選択します。メタストアに対する CREATE CONNECTION 特権がある場合は、 プラスアイコン。 接続の作成 をクリックし、SurveyMonkey への認証の構成の認証情報を使用して接続を作成します。
  4. 次へ をクリックします。
  5. インジェスト設定 ページで、パイプラインの名前を入力します。
  6. イベントLogsを書き込むカタログとスキーマを選択します。カタログに対する USE CATALOG 権限と CREATE SCHEMA 権限がある場合は、ドロップダウンメニューの プラスアイコン。 スキーマの作成 をクリックしてスキーマを作成します。
  7. パイプラインの作成および続行 をクリックします。
  8. ソース ページで、取り込むテーブルを選択します。
  9. 保存して続行 をクリックします。
  10. 宛先 ページで、データをロードするカタログとスキーマを選択します。カタログに対する USE CATALOG 権限と CREATE SCHEMA 権限がある場合は、ドロップダウンメニューの プラスアイコン。 スキーマの作成 をクリックしてスキーマを作成します。
  11. 保存して続行 をクリックします。
  12. (オプション) スケジュールと通知 ページで、 プラスアイコン。 スケジュールの作成 をクリックします。宛先テーブルを更新する頻度を設定します。
  13. (オプション) プラスアイコン。 通知の追加 をクリックして、パイプライン操作の成功または失敗に関するEメール通知を設定してから、 保存してパイプラインをラン をクリックします。

例​

SurveyMonkey コネクタは、 default ソース スキーマで 11 のソース テーブルを利用可能にします。個々のテーブルまたはスキーマ全体を取り込みます。

特定のテーブルの取り込み​

テーブルの特定のサブセットを取り込む場合、またはテーブルごとに宛先の命名をカスタマイズする場合は、このオプションを使用します。

次のパイプライン定義ファイルは、個々の SurveyMonkey テーブルを取り込みます。

YAML
resources:
  pipelines:
    surveymonkey_pipeline:
      name: surveymonkey_pipeline
      catalog: 'main'
      target: 'surveymonkey_data'
      ingestion_definition:
        connection_name: surveymonkey_connection
        objects:
          - table:
              source_schema: 'default'
              source_table: 'surveys'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'
              destination_table: 'surveys'
          - table:
              source_schema: 'default'
              source_table: 'survey_responses'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'
              destination_table: 'survey_responses'
          - table:
              source_schema: 'default'
              source_table: 'contacts'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'
              destination_table: 'contacts'

特定開始日から取り込む​

start_datetimeオプションを使用して、増分テーブルが最初の同期でどの程度まで遡って読み取るかを制御します。

次のパイプライン定義ファイルは、特定の起動日からSurveyMonkeyテーブルを取り込みます：

YAML
resources:
  pipelines:
    surveymonkey_pipeline:
      name: surveymonkey_pipeline
      catalog: 'main'
      target: 'surveymonkey_data'
      ingestion_definition:
        connection_name: surveymonkey_connection
        source_configurations:
          - api_source_connector_config:
              configs:
                start_datetime: '<start-datetime>'
        objects:
          - table:
              source_schema: 'default'
              source_table: 'surveys'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'
              destination_table: 'surveys'
          - table:
              source_schema: 'default'
              source_table: 'survey_responses'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'
              destination_table: 'survey_responses'

スキーマ全体を取り込む​

SurveyMonkey のすべてのソーステーブルを 1 つの宛先スキーマに単一の宣言で取り込む場合にこのオプションを使用します。

次のパイプライン定義ファイルは、サポートされているすべてのSurveyMonkeyテーブルを宛先スキーマに取り込みます。

YAML
resources:
  pipelines:
    surveymonkey_pipeline:
      name: surveymonkey_pipeline
      catalog: 'main'
      target: 'surveymonkey_data'
      ingestion_definition:
        connection_name: surveymonkey_connection
        objects:
          - schema:
              source_schema: 'default'
              destination_catalog: 'main'
              destination_schema: 'surveymonkey_data'

宣言型オートメーションバンドルのジョブ定義ファイル​

以下は、宣言型オートメーションバンドルで使用するジョブ定義ファイルの例です。ジョブは毎日ランされます。

YAML
resources:
  jobs:
    surveymonkey_job:
      name: surveymonkey_job
      schedule:
        quartz_cron_expression: '0 0 0 * * ?'
        timezone_id: 'UTC'
      tasks:
        - task_key: surveymonkey_ingestion
          pipeline_task:
            pipeline_id: ${resources.pipelines.surveymonkey_pipeline.id}

一般的なパターン​

高度なパイプライン構成については、「管理された取り込みパイプラインの一般的なパターン」を参照してください。

次のステップ​

パイプラインの起動、スケジュール、アラートを設定します。一般的なパイプラインのメンテナンス タスクを参照してください。

その他のリソース​

このページの見出し