クラスターライブラリ
クラスター ライブラリは、クラスター上で実行されているすべてのノートブックとジョブで使用できます。 この記事では、Databricks ワークスペースでのライブラリのインストールUI の使用方法について詳しく説明します。
注:
ライブラリのインストールを強制するポリシーを使用してコンピュートを作成した場合、コンピュートでライブラリをインストールまたはアンインストールすることはできません。 ワークスペース管理者は、すべてのライブラリ管理をポリシー レベルで制御します。
次の方法を使用して、クラスターにライブラリをインストールできます。
特定のクラスターでのみ使用するライブラリをインストールします。
REST APIを使用してライブラリをインストールします。 「ライブラリ API」を参照してください。
Databricks CLI を使用してライブラリをインストールします。 「Databricks CLI とは」を参照してください。
Terraform を使用してライブラリをインストールします。Databricks Terraform プロバイダーと databricks_library を参照してください。
ライブラリのインストールを定義するポリシーを使用してクラスターを作成し、ライブラリをインストールします。 「ポリシーにライブラリを追加する」を参照してください。
(推奨されません) クラスターの作成時に実行される init スクリプトを使用してライブラリをインストールします。 「 initスクリプトを使用したライブラリのインストール (レガシー) 」を参照してください。
クラスターにライブラリをインストール
クラスタにライブラリをインストールするには、以下の手順に従ってください。
サイドバー の 「コンピュート 」をクリックします 。
クラスター名をクリックします。
[ライブラリ] タブをクリックします。
[新規インストール]をクリックします。
[ライブラリをインストール] ダイアログが表示されます。
[ライブラリのソース] オプションのいずれかを選択し、表示される手順に従い、その後 [インストール] をクリックします。
重要
ライブラリは、Databricks Runtime 14.3 LTS 以前を使用している場合は DBFS からインストールできます。 ただし、ワークスペース ユーザーは誰でも DBFS に格納されているライブラリ ファイルを変更できます。 Databricksワークスペースでのライブラリのセキュリティを向上させるために、DBFSルートへのライブラリファイルの保存は、Databricks Runtime 15.1 以降のデフォルトによって非推奨になり、無効になっています。「DBFSルートでのライブラリの保存は、デフォルトによって非推奨および無効化されています」を参照してください。
代わりに、 、 Databricksライブラリ、PythonJAR ファイル、Spark コネクタを含むすべてのライブラリをワークスペース ファイルまたはUnity Catalog ボリュームにアップロードするか、ライブラリ パッケージ リポジトリを使用すること をお勧めします 。ワークロードがこれらのパターンをサポートしていない場合は、クラウドオブジェクトストレージに保存されているライブラリを使用することもできます。
すべてのクラスター アクセス モードがすべてのライブラリ構成をサポートしているわけではありません。 「クラスタースコープのライブラリ」を参照してください。
ライブラリのソース |
手順 |
---|---|
ワークスペース |
ワークスペース ファイルを選択するか、Whl、zip 形式のホイールハウス、JAR、ZIP、tar、またはrequirements.txt ファイルをアップロードします。 「ワークスペース ファイルからライブラリをインストールする」を参照してください。 |
ボリューム |
ボリュームからWhl、JAR、またはrequirements.txtファイルを選択します。 「ボリュームからライブラリをインストールする」を参照してください。 |
ファイルパス/S3 |
ライブラリのタイプを選択し、ライブラリ オブジェクトに完全な URI を指定します (例: |
PyPI |
PyPI パッケージ名を入力します。 PyPIパッケージを参照してください。 |
Maven |
Maven 座標を指定します。 Maven または Spark パッケージを参照してください。 |
CRAN |
パッケージの名前を入力します。 CRAN パッケージを参照してください。 |
DBFS (推奨されません) |
JAR または Whl ファイルを DBFS ルートにロードします。 DBFS に保存されているファイルはどのワークスペース ユーザーでも変更できるため、これは推奨されません。 |
クラスターにライブラリをインストールしても、そのクラスターに既にアタッチされているノートブックには、新しいライブラリがすぐに表示されません。 最初にノートブックを デタッチ してから、クラスター に再度アタッチ する必要があります。
注:
インストールに 2 時間以上かかったライブラリは失敗としてマークされます。
ポリシーを使用したライブラリのインストール
ライブラリのインストールを強制するポリシーを使用してクラスターを作成すると、指定したライブラリがクラスターに自動的にインストールされます。 追加のライブラリをインストールしたり、ライブラリをアンインストールしたりすることはできません。
ワークスペース管理者はポリシーにライブラリを追加して、ポリシーを使用するすべてのワークスペースでライブラリのインストールを管理および適用できます。 管理者の手順については、 「ポリシーにライブラリを追加する」を参照してください。
クラスターからライブラリをアンインストール
注:
クラスターからライブラリをアンインストールしても、クラスターを再起動するまでライブラリは削除されません。クラスターを再起動するまで、アンインストールされたライブラリのステータスは [再起動時のアンインストールを保留中] と表示されます。
ライブラリをアンインストールするには、クラスター UI を使用できます。
サイドバー の 「コンピュート 」をクリックします 。
クラスター名をクリックします。
[ライブラリ] タブをクリックします。
ライブラリをアンインストールするクラスターの横にあるチェックボックスをオンにし、[アンインストール] をクリックしてから [確認] をクリックします。ステータスが [再起動時のアンインストールを保留中] に変わります。
[再起動] をクリックし、[確認] をクリックしてライブラリをアンインストールします。ライブラリはクラスターの [ライブラリ] タブから削除されます。
クラスターにインストールされているライブラリを表示
サイドバー の 「コンピュート 」をクリックします 。
クラスター名をクリックします。
「 ライブラリ」 タブをクリックします。 各ライブラリのタブには、名前とバージョン、タイプ、 インストールステータス、およびアップロードされている場合はソースファイルが表示されます。