クラスターライブラリ

クラスター ライブラリは、クラスター上で実行されているすべてのノートブックとジョブで使用できます。 この記事では、Databricks ワークスペースでのライブラリのインストールUI の使用方法について詳しく説明します。

注:

ライブラリのインストールを強制するポリシーを使用してコンピュートを作成した場合、コンピュートでライブラリをインストールまたはアンインストールすることはできません。 ワークスペース管理者は、すべてのライブラリ管理をポリシー レベルで制御します。

次の方法を使用して、クラスターにライブラリをインストールできます。

クラスターにライブラリをインストール

クラスタにライブラリをインストールするには、以下の手順に従ってください。

  1. コンピュートアイコン サイドバー の 「コンピュート 」をクリックします

  2. クラスター名をクリックします。

  3. [ライブラリ] タブをクリックします。

  4. [新規インストール]をクリックします。

  5. [ライブラリをインストール] ダイアログが表示されます。

  6. [ライブラリのソース] オプションのいずれかを選択し、表示される手順に従い、その後 [インストール] をクリックします。

重要

ライブラリは、Databricks Runtime 14.3 LTS 以前を使用している場合は DBFS からインストールできます。 ただし、ワークスペース ユーザーは誰でも DBFS に格納されているライブラリ ファイルを変更できます。 Databricksワークスペースでのライブラリのセキュリティを向上させるために、DBFSルートへのライブラリファイルの保存は、Databricks Runtime 15.1 以降のデフォルトによって非推奨になり、無効になっています。「DBFSルートでのライブラリの保存は、デフォルトによって非推奨および無効化されています」を参照してください。

代わりに、 、 Databricksライブラリ、PythonJAR ファイル、Spark コネクタを含むすべてのライブラリをワークスペース ファイルまたはUnity Catalog ボリュームにアップロードするか、ライブラリ パッケージ リポジトリを使用すること をお勧めします 。ワークロードがこれらのパターンをサポートしていない場合は、クラウドオブジェクトストレージに保存されているライブラリを使用することもできます。

すべてのクラスター アクセス モードがすべてのライブラリ構成をサポートしているわけではありません。 「クラスタースコープのライブラリ」を参照してください。

ライブラリのソース

手順

ワークスペース

ワークスペース ファイルを選択するか、Whl、zip 形式のホイールハウス、JAR、ZIP、tar、またはrequirements.txt ファイルをアップロードします。 「ワークスペース ファイルからライブラリをインストールする」を参照してください。

ボリューム

ボリュームからWhl、JAR、またはrequirements.txtファイルを選択します。 「ボリュームからライブラリをインストールする」を参照してください。

ファイルパス/S3

ライブラリのタイプを選択し、ライブラリ オブジェクトに完全な URI を指定します (例: /Workspace/path/to/library.whl/Volumes/path/to/library.whl 、またはs3://bucket-name/path/to/library.whl )。 「オブジェクト ストレージからライブラリをインストールする」を参照してください。

PyPI

PyPI パッケージ名を入力します。 PyPIパッケージを参照してください。

Maven

Maven 座標を指定します。 Maven または Spark パッケージを参照してください。

CRAN

パッケージの名前を入力します。 CRAN パッケージを参照してください。

DBFS (推奨されません)

JAR または Whl ファイルを DBFS ルートにロードします。 DBFS に保存されているファイルはどのワークスペース ユーザーでも変更できるため、これは推奨されません。

クラスターにライブラリをインストールしても、そのクラスターに既にアタッチされているノートブックには、新しいライブラリがすぐに表示されません。 最初にノートブックを デタッチ してから、クラスター に再度アタッチ する必要があります。

注:

インストールに 2 時間以上かかったライブラリは失敗としてマークされます。

ポリシーを使用したライブラリのインストール

ライブラリのインストールを強制するポリシーを使用してクラスターを作成すると、指定したライブラリがクラスターに自動的にインストールされます。 追加のライブラリをインストールしたり、ライブラリをアンインストールしたりすることはできません。

ワークスペース管理者はポリシーにライブラリを追加して、ポリシーを使用するすべてのワークスペースでライブラリのインストールを管理および適用できます。 管理者の手順については、 「ポリシーにライブラリを追加する」を参照してください。

クラスターからライブラリをアンインストール

注:

クラスターからライブラリをアンインストールしても、クラスターを再起動するまでライブラリは削除されません。クラスターを再起動するまで、アンインストールされたライブラリのステータスは [再起動時のアンインストールを保留中] と表示されます。

ライブラリをアンインストールするには、クラスター UI を使用できます。

  1. コンピュートアイコン サイドバー の 「コンピュート 」をクリックします

  2. クラスター名をクリックします。

  3. [ライブラリ] タブをクリックします。

  4. ライブラリをアンインストールするクラスターの横にあるチェックボックスをオンにし、[アンインストール] をクリックしてから [確認] をクリックします。ステータスが [再起動時のアンインストールを保留中] に変わります。

[再起動] をクリックし、[確認] をクリックしてライブラリをアンインストールします。ライブラリはクラスターの [ライブラリ] タブから削除されます。

クラスターにインストールされているライブラリを表示

  1. コンピュートアイコン サイドバー の 「コンピュート 」をクリックします

  2. クラスター名をクリックします。

  3. ライブラリ」 タブをクリックします。 各ライブラリのタブには、名前とバージョン、タイプ、 インストールステータス、およびアップロードされている場合はソースファイルが表示されます。

クラスターにインストールされたライブラリを更新

クラスターにインストールされたライブラリを更新するには、古いバージョンのライブラリをアンインストールし、新しいバージョンをインストールします。

注:

Requirements.txtファイルは、アンインストールと再起動の必要はありません。 requirements.txtファイルの内容を変更した場合は、再インストールするだけで、インストールされたファイルの内容を更新できます。