Oracle でフェデレーション クエリを実行する
プレビュー
この機能は パブリック プレビュー段階です。
この記事では、 Databricksによって管理されていないOracleデータに対してフェデレーションクエリを実行するようにレイクハウスフェデレーションを設定する方法について説明します。 レイクハウスフェデレーションの詳細については、「 レイクハウスフェデレーションとは」を参照してください。
レイクハウスフェデレーションを使用してOracleデータベースに接続するには、 Databricks Unity Catalog メタストアに次のものを作成する必要があります。
- Oracle データベースへの接続。
- OracleUnity Catalog Unity Catalogデータベースを にミラーリングする フォーリンカタログDatabricks 。これにより、 クエリ構文とデータガバナンスツールを使用してデータベースへの ユーザーアクセスを管理できます。
始める前に
開始する前に、このセクションの要件を満たしていることを確認してください。
Databricks の要件
ワークスペースの要件:
- Unity Catalogのワークスペースが有効になっています。
コンピュートの要件:
- コンピュート・リソースからターゲット・データベース・システムへのネットワーク接続。 「レイクハウスフェデレーションのネットワーキングに関する推奨事項」を参照してください。
- Databricks コンピュートは、 Databricks Runtime 16.1 以降と Standard または Dedicated アクセス モードを使用する必要があります。
- SQLウェアハウスは PRO または サーバレスで、2024.50 以上を使用する必要があります。
必要な権限:
- 接続を作成するには、メタストア管理者か、ワークスペースに接続されているUnity Catalogメタストアの
CREATE CONNECTION
権限を持つユーザーである必要があります。 - フォーリンカタログを作成するには、メタストアに対する
CREATE CATALOG
権限を持ち、接続の所有者であるか、接続に対するCREATE FOREIGN CATALOG
権限を持っている必要があります。
追加の権限要件は、以下の各タスクベースのセクションに記載しています。
Oracleの要件
- サーバー側のネイティブ ネットワーク暗号化が有効 (最小
ACCEPTED
レベル)。 Oracle ドキュメントの 「ネットワーク・データ暗号化の構成 」を参照してください。
Databricks 接続を作成する
接続では、外部データベースシステムにアクセスするためのパスと認証情報を指定します。接続を作成するには、カタログエクスプローラーを使用するか、Databricksノートブックまたは Databricks SQLクエリーエディタで CREATE CONNECTION
SQLコマンドを使用できます。
Databricks REST API または Databricks CLI を使用して接続を作成することもできます。 POST /api/2.1/unity-catalog/connections を参照してください。 および Unity Catalog コマンド。
必要な権限: メタストア管理者またはCREATE CONNECTION
権限を持つユーザー。
- Catalog Explorer
- SQL
- In the Databricks workspace, click
Catalog.
- In the left pane, expand the External Data menu and select Connections.
- Click Create connection.
- On the Connection basics page of the Set up connection wizard, enter a user-friendly Connection name.
- Select a Connection type of Oracle.
- (Optional) Add a comment.
- Click Next.
- On the Authentication page, enter the following for the Oracle instance:
- Host: For example,
oracle-demo.123456.rds.amazonaws.com
- Port: For example,
1521
- User: For example,
oracle_user
- Password: For example,
password123
- Host: For example,
- Click Create connection.
- On the Catalog basics page, enter a name for the foreign catalog. A foreign catalog mirrors a database in an external data system so that you can query and manage access to data in that database using Databricks and Unity Catalog.
- (Optional) Click Test connection to confirm that it works.
- Click Create catalog.
- On the Access page, select the workspaces in which users can access the catalog you created. You can select All workspaces have access, or click Assign to workspaces, select the workspaces, and then click Assign.
- Change the Owner who will be able to manage access to all objects in the catalog. Start typing a principal in the text box, and then click the principal in the returned results.
- Grant Privileges on the catalog. Click Grant:
- Specify the Principals who will have access to objects in the catalog. Start typing a principal in the text box, and then click the principal in the returned results.
- Select the Privilege presets to grant to each principal. All account users are granted
BROWSE
by default.- Select Data Reader from the drop-down menu to grant
read
privileges on objects in the catalog. - Select Data Editor from the drop-down menu to grant
read
andmodify
privileges on objects in the catalog. - Manually select the privileges to grant.
- Select Data Reader from the drop-down menu to grant
- Click Grant.
- Click Next.
- On the Metadata page, specify tags key-value pairs. For more information, see Apply tags to Unity Catalog securable objects.
- (Optional) Add a comment.
- Click Save.
Run the following command in a notebook or the Databricks SQL query editor:
CREATE CONNECTION <connection-name> TYPE oracle
OPTIONS (
host '<hostname>',
port '<port>',
user '<user>',
password '<password>'
);
Databricks recommends that you use Databricks secrets instead of plaintext strings for sensitive values like credentials. For example:
CREATE CONNECTION <connection-name> TYPE oracle
OPTIONS (
host '<hostname>',
port '<port>',
user secret ('<secret-scope>','<secret-key-user>'),
password secret ('<secret-scope>','<secret-key-password>')
)
If you must use plaintext strings in notebook SQL commands, avoid truncating the string by escaping special characters like $
with \
. For example: \$
.
For information about setting up secrets, see Secret management.
フォーリンカタログの作成
UI を使用してデータソースへの接続を作成する場合は、フォーリンカタログの作成が含まれているため、この手順をスキップできます。
フォーリンカタログは、外部データシステム内のデータベースをミラーリングするため、DatabricksとUnity Catalogを使用して、そのデータベース内のデータへのアクセスを管理できます。フォーリンカタログを作成するには、すでに定義されているデータソースへの接続を使用します。
フォーリンカタログを作成するには、Catalog ExplorerCREATE FOREIGN CATALOG
SQL を使用するか、Databricks ノートブックまたは クエリSQL エディターの コマンドを使用します。Databricks REST API または Databricks CLI を使用してカタログを作成することもできます。 POST /api/2.1/unity-catalog/catalogs を参照してください。 および Unity Catalog コマンド。
必要な権限: メタストアの CREATE CATALOG
権限、接続の所有権または接続の CREATE FOREIGN CATALOG
権限。
- Catalog Explorer
- SQL
-
In the Databricks workspace, click
Catalog to open Catalog Explorer.
-
At the top of the Catalog pane, click the
Add icon and select Add a catalog from the menu.
Alternatively, from the Quick access page, click the Catalogs button, and then click the Create catalog button.
-
Follow the instructions for creating foreign catalogs in Create catalogs.
Run the following SQL command in a notebook or SQL query editor. Items in brackets are optional. Replace the placeholder values:
<catalog-name>
: Name for the catalog in Databricks.<connection-name>
: The connection object that specifies the data source, path, and access credentials.<service-name>
: Service name you want to mirror as a catalog in Databricks.
CREATE FOREIGN CATALOG [IF NOT EXISTS] <catalog-name> USING CONNECTION <connection-name>
OPTIONS (service_name '<service-name>');
サポートされているプッシュダウン
次のプッシュダウンがサポートされています。
- フィルター
- 予測
- 上限
- 集計
- offset
- キャスト
- 含む、開始、終了
データ型マッピング
Oracle から Spark に読み取る場合、データ型は次のようにマップされます。
オラクルタイプ | Spark タイプ |
---|---|
タイムゾーンのタイムスタンプ、ローカルタイムゾーンのタイムスタンプ | TimestampType |
日付、タイムスタンプ | TimestampType/TimestampNTZType* |
数値、浮動小数点数 | DecimalType |
バイナリ浮動小数点数 | FloatType |
バイナリダブル | DoubleType |
CHAR、NCHAR、VARCHAR2、NVARCHAR2 | StringType |
- DATE と TIMESTAMP は、
spark.sql.timestampType = TIMESTAMP_LTZ
(デフォルト) の場合、Spark TimestampType にマップされます。 これらは、spark.sql.timestampType = TIMESTAMP_NTZ
の場合、TimestampNTZType にマップされます。