Syncsort に接続する

プレビュー

この機能はパブリックプレビュー段階です。

Syncsort は、レガシー、メインフレーム、および IBM データを Databricks と統合することで、データ サイロを解消するのに役立ちます。 これらのソースから Delta Lake にデータを簡単にプルできます。

Databricksで Syncsort を使用するための手順は次のとおりです。

ステップ 1: Databricks 個人用アクセストークン を生成する

Syncsort は、Databricks 個人用アクセストークンを使用して Databricks で認証を行います。

自動化されたツール、システム、スクリプト、アプリを使用して認証する場合のセキュリティのベスト プラクティスとして、Databricks ではOAuth トークンを使用することをお勧めします。

個人用アクセストークン認証を使用する場合、Databricks では、ワークスペース ユーザーではなく、 サービスプリンシパル に属する個人用アクセストークンを使用することをお勧めします。 サービスプリンシパルのトークンを作成するには、「 サービスプリンシパルのトークンを管理する」を参照してください。

ステップ 2: 統合のニーズ をサポートするようにクラスターを設定する

Syncsort は S3 バケットにデータを書き込み、Databricks 統合クラスターはその場所からデータを読み取ります。 そのため、統合クラスターには S3 バケットへの安全なアクセスが必要です。

S3 バケット への安全なアクセス

AWS リソースにアクセスするには、インスタンスプロファイルを使用して Databricks 統合クラスターを起動できます。 インスタンスプロファイルには、ステージング S3 バケットと、Delta テーブルを書き込むターゲット S3 バケットにアクセスできる必要があります。 インスタンスプロファイルを作成し、ロールを使用するように統合クラスターを設定するには、「 チュートリアル: インスタンスプロファイルを使用して S3 アクセスを設定する」の手順に従います。

別の方法として、 IAM 認証情報パススルーを使用して、共有クラスターから S3 データへのユーザー固有のアクセスを有効にすることもできます。

クラスター構成 を指定する

  1. [クラスター モード] を [標準] に設定します。

  2. [Databricks Runtime バージョン] を Databricks ランタイム バージョンに設定します。

  3. 最適化された書き込みと自動コンパクションを有効にするには、次のプロパティを Spark 構成に追加します。

    spark.databricks.delta.optimizeWrite.enabled true
    spark.databricks.delta.autoCompact.enabled true
    
  4. 統合とスケーリングのニーズに応じてクラスターを構成します。

クラスター構成の詳細については、 「コンピュート構成リファレンス」を参照してください。

JDBC URL と HTTP パスを取得するには、ステップ の「 Databricks コンピュート リソースの接続の詳細を取得する 」を参照してください。

ステップ 3: クラスター に接続するための JDBC および ODBC 接続の詳細を取得する

Databricks クラスターを Syncsort に接続するには、以下の JDBC/ODBC 接続プロパティーが必要です。

  • JDBC URL

  • HTTP パス

ステップ 4: Databricks で Syncsort を構成する

Databricks と Connect for Data の ログイン ページに移動し、指示に従います。

関連リソース

サポート