レイクハウスフェデレーションのネットワーキングに関する推奨事項
レイクハウスフェデレーションには、 Databricks クラスターまたは SQL Warehouseと、接続先の外部データベース システムとの間にネットワーク パスが必要です。このページでは、いずれかの側にネットワーク アクセス制限またはカスタムDNSサーバーがある場合に、そのパスを設定する方法について説明します。
レイクハウスフェデレーションのネットワーク接続を設定する際には、以下の点を考慮してください。
- フェデレーションクエリのすべてのネットワークトラフィックは、Databricks クラスター (または SQLウェアハウス) と外部データベースシステムの間で直接行われます。Unity Catalog も Databricks コントロール プレーンもネットワーク パス上にありません。
- OAuthを使用する接続には、追加の要件があります。接続が OAuth で認証されるとき、OAuth トークンの交換は、コンピュート プレーンではなく Databricks コントロール プレーンから行われます。コントロールプレーンは、外部システムのOAuth Endpointに到達できる必要があります。コンピュートプレーンのみを許可リストに追加するだけでは、これらの接続には十分ではありません。コネクタ固有の要件については、 「Snowflake クエリー フェデレーションの制限」および「SQL Server 接続の作成」の OAuth エンドポイントの要件を参照してください。
- Databricks コンピュート (つまり、クラスターと SQLウェアハウス) は常にクラウド上でデプロイされますが、外部データベース システムは、 Databricks コンピュートと外部データベースの間に実行可能なネットワーク パスがある限り、オンプレミスにすることも、任意のクラウド プロバイダーでホストすることもできます。
- Databricksコンピュートまたは外部データベースシステムのいずれかにインバウンドまたはアウトバウンドネットワークの制限がある場合は、実行可能なネットワークパスを作成するのに役立つ一般的なガイダンスについて、次のセクションを参照してください。
Databricksワークスペースのネットワーキングの詳細については、「ネットワーキング」を参照してください。
データベースシステムと Databricks コンピュートはどちらもインターネットからアクセス可能
接続は、構成なしで機能するはずです。
データベース・システムにはネットワーク・アクセス制限があります
外部データベースシステムにインバウンドまたはアウトバウンドのネットワークアクセス制限があり、 Databricks クラスターまたは SQLウェアハウスにインターネットからアクセスできる場合は、次のいずれかのネットワークソリューションを構成して、クラシックコンピュートリソースから接続します。
-
Databricksコンピュート上の安定したエグレスIP。
従来のコンピュートプレーンから、ロードバランサーやNATゲートウェイ、インターネットゲートウェイなどで安定したIPアドレスを設定し、コンピュートがデプロイされているサブネット Databricks つなげます。 これにより、コンピュート リソースは、外部データベース側で許可リストに登録できる安定したパブリック IP アドレスを共有できます。
サーバレス コンピュート プレーンから、Databricks はアウトバウンド IP を公開しており、それを外部データベース システムで許可リストに登録できます。自動化を構築することにより、これらの IP を最新の状態に保つ必要があります。「サーバレス コンピュート ファイアウォールの構成」を参照してください。
クラシックコンピュートプレーンから、外部データベースシステムはDatabricksコンピュートの安定したIPをイングレスとエグレスの両方のトラフィックに対して許可リストに登録する必要があります。
-
プライベート リンク (外部データベースがDatabricksコンピュートと同じクラウド上にある場合のみ)
クラシックコンピュート プレーンから、データベースがデプロイされているネットワークとDatabricksコンピュートがデプロイされているネットワークの間に PrivateLink 接続を構成します。
Databricks コンピュートにはネットワーク アクセス制限があります
外部データベースシステムがインターネットからアクセス可能で、 Databricks コンピュートにインバウンドまたはアウトバウンドのネットワークアクセス制限がある場合 (これは、顧客管理ネットワーク上にいる場合のみ可能)、次のいずれかの設定を実行します。
-
外部データベースのホスト名を、 Databricks コンピュートがデプロイされているサブネットのファイアウォールルールに含めます。
ホスト名ではなく外部データベースの IP アドレスを許可リストに登録する場合は、外部データベースに安定した IP アドレスがあることを確認してください。
-
プライベート リンク (外部データベースがDatabricksコンピュートと同じクラウド上にある場合のみ)
データベースがデプロイされているネットワークとDatabricksコンピュート がデプロイされているネットワーク間のプライベート リンク接続を構成します。
Databricks コンピュートにはカスタムDNSサーバーがあります
外部データベース・システムがインターネットからアクセス可能で、 Databricks コンピュートにカスタム DNS サーバーがある場合 (これは、顧客が管理するネットワーク上にいる場合のみ可能)、データベース・システムのホスト名をカスタム DNS サーバーに追加して、解決できるようにします。
コネクタ固有のネットワーク
一部のコネクタには、必須Endpoint、接続チェック、プライベート接続オプションなど、このページの一般的なガイダンスを超えるネットワーク要件があります。これらの詳細については、関連する接続ページのネットワークセクションを参照してください: