メインコンテンツまでスキップ
に最終更新

GPU対応コンピュート

注記

一部の GPU 対応インスタンスタイプは ベータ版 であり、コンピュートの作成時にドライバータイプとワーカータイプを選択すると、ドロップダウンリストでそのようにマークされます。

概要​

Databricks は、グラフィックス プロセッシング ユニット (GPU) で高速化されたコンピュートをサポートしています。この記事では、GPU 対応インスタンスを使用してコンピュートを作成する方法について説明し、それらのインスタンスにインストールされている GPU ドライバーとライブラリについて説明します。

GPU 対応コンピュートのディープラーニングの詳細については、「 ディープラーニング」を参照してください。

GPU コンピュートを作成する​

GPU コンピュートの作成は、コンピュートの作成と似ています。 次の点に留意してください。

  • 機械学習 チェックボックスをオンにする必要があります。GPU ML バージョンは、ワーカータイプに基づいて自動的に選択されます。
  • Photon acceleration チェックボックスはオフにする必要があります。Photon は GPU インスタンスタイプではサポートされていません。
  • ワーカータイプ は GPU インスタンスタイプである必要があります。
  • シングルノード チェックボックスをオンにすると、単一の GPU インスタンスを取得できます。

クラスターAPIを使用してGPUインスタンスを構成するプロセスは、kindフィールドが設定されているかどうかによって異なります。kind 、要求が 単純なフォーム 仕様を使用するかどうかを判断します。

  • kind = CLASSIC_PREVIEWの場合は、 "use_ml_runtime": trueを設定します。
  • kind フィールドを設定しない場合は、spark_version を 15.4.x-gpu-ml-scala2.12 などの GPU 対応バージョンに設定します。

サポートされているインスタンスタイプ​

Databricks では、次のインスタンスタイプがサポートされています。

  • GPUタイプ:NVIDIA A100 80GB GPU

インスタンス名

GPU の数

GPUメモリ

vCPU

CPUメモリ

a2-ultragpu-1g

1

80GB

12

170GB

a2-ultragpu-2g

2

80GB×2

24

340GB

a2-ultragpu-4g

4

80GB×4

48

680GB

a2-ultragpu-8g

8

80GB×8

96

1360GB

インスタンス名

GPU の数

GPUメモリ

vCPU

CPUメモリ

a2-ultragpu-1g

1

80GB

12

170GB

a2-ultragpu-2g

2

80GB×2

24

340GB

a2-ultragpu-4g

4

80GB×4

48

680GB

a2-ultragpu-8g

8

80GB×8

96

1360GB

これらのインスタンス タイプの詳細については、 GCP アクセラレータに最適化されたマシンを参照してください。また、これらのインスタンスが利用できる場所を確認するには、 GCP リージョンを参照してください。 GPU 対応のコンピュートを起動するには、Databricks デプロイメントがサポートされているリージョンに存在する必要があります。

GPU スケジューリング​

GPU スケジューリングは、Spark タスクを多数の GPU に効率的に分散します。

Databricks Runtime 9.1 LTS ML 以降では、Apache Spark 3.0 からの GPU 対応スケジューリングがサポートされています。 Databricks はそれをGPUコンピュートに事前設定します。

注記

GPU スケジューリングは、単一ノードのコンピュートでは有効になっていません。

AIとMLのGPUスケジューリング​

spark.task.resource.gpu.amount は、構成する必要がある可能性がある GPU 対応スケジューリングに関連する唯一の Spark 構成です。デフォルトの構成では、タスクごとに 1 つの GPU が使用されるため、分散推論ワークロードと、すべての GPU ノードを使用する場合の分散トレーニングに適したベースラインです。

分散トレーニング時の通信オーバーヘッドを削減するために、Databricksコンピュート Spark構成でワーカーノードあたりのGPU数にspark.task.resource.gpu.amountを設定することをおすすめします。これにより、Spark ワーカーごとに Spark タスクが 1 つだけ作成され、そのワーカー ノード内のすべての GPU が同じタスクに割り当てられます。

分散ディープラーニング推論の並列化を強化するために、 spark.task.resource.gpu.amount を 1/2、1/3、1/4 などの小数値に設定できます。1/Nです。 これにより、GPU よりも多くの Spark タスクが作成されるため、より多くの同時タスクで推論要求を並列に処理できます。 たとえば、 spark.task.resource.gpu.amount を 0.5、 0.33、または 0.25に設定した場合、使用可能な GPU はタスクの数が 2 倍、3 倍、または 4 倍に分割されます。

GPU インデックス​

PySpark タスクの場合、Databricks は割り当てられた GPU を 0 から始まるインデックスに自動的に再マッピングします。 タスクごとに 1 つの GPU を使用するデフォルト設定では、タスクにどの GPU が割り当てられているかを確認せずに、デフォルトの GPU を使用できます。タスクごとに複数の GPU を設定する場合 (例: 4)、割り当てられた GPU のインデックスは常に 0、1、2、3 です。 割り当てられた GPU の物理インデックスが必要な場合は、 CUDA_VISIBLE_DEVICES 環境変数から取得できます。

Scala を使用する場合は、タスクに割り当てられた GPU のインデックスを TaskContext.resources().get("gpu")から取得できます。

NVIDIA GPU ドライバー、CUDA、および cuDNN​

Databricks は、GPU を使用するために必要な NVIDIA ドライバーとライブラリを Spark ドライバーとワーカー インスタンスにインストールします。

  • CUDA Toolkit は、 /usr/local/cuda配下にインストールされます。
  • cuDNN: NVIDIA CUDA Deep ニューラルネットワーク ライブラリ.
  • NCCL: NVIDIA コレクティブ コミュニケーション ライブラリ。

含まれているNVIDIAドライバーのバージョンは525.105.17で、 CUDA 11.0をサポートしています。

含まれているライブラリのバージョンについては、使用している特定のDatabricks Runtimeバージョンのリリースノートを参照してください。

注記

本ソフトウェアには、NVIDIA Corporationが提供するソースコードが含まれています。 具体的には、GPU をサポートするために、Databricks には CUDA サンプルのコードが含まれています。

NVIDIA エンド ユーザー ライセンス契約 (EULA)​

で GPU 対応の「Databricks Runtime Databricksバージョン」を選択すると、 NVIDIA EULACUDA は、 、cuDNN、Tesla ライブラリに関するものです。 NCCL ライブラリのNVIDIA エンド ユーザー ライセンス契約 (NCCL Supplement を含む)。

GPU コンピュートにおけるDatabricks Container Services​

備考

プレビュー

この機能は パブリック プレビュー段階です。

GPU を備えたコンピュート上のDatabricks Container Services使用して、カスタマイズされたライブラリを備えたポータブルなディープラーニング環境を作成できます。 手順については、専用のコンピュートに関するDatabricks Container Services参照してください。

GPU コンピュートのカスタムイメージを作成するには、GPU の Databricks Runtime ML ではなく、標準のランタイムバージョンを選択する必要があります。 Use your own (独自の Docker コンテナーを使用する) を選択すると、標準のランタイム バージョンで GPU コンピュートを選択できます。GPU のカスタム イメージは、GPU の Databricks Runtime ML とは異なる 公式の CUDA コンテナーに基づいています。

GPU コンピュートのカスタム イメージを作成する場合、NVIDIA ドライバーのバージョンはホスト マシンのドライバー バージョンと一致する必要があるため、変更できません。

databricksruntime Docker Hub には、GPU 機能を備えたサンプルの基本イメージが含まれています。これらのイメージの生成に使用される Dockerfile は、 サンプル コンテナーの GitHub リポジトリにあり、サンプル イメージが提供する内容とそのカスタマイズ方法の詳細も含まれています。

制限​

  • ノートブックからジョブをスケジュールするときに、新しい GPU コンピュートを作成することはできません。既存の GPU コンピュートでジョブを実行できるのは、 新しいコンピュート UI で作成された場合のみです。
  • Databricks on Google Cloudでは、nvidia-smi などの一般的に使用される NVIDIA 実行可能ファイルは PATH 環境変数に含まれません。代わりに、彼らは /usr/local/nvidia/binにあります。 たとえば、nvidia-smiを使用するには、Webターミナルまたは%shノートブックのマジックコマンドを使用して、/usr/local/nvidia/bin/nvidia-smiを実行する必要があります。
  • Ganglia を使用したモニタリング コンピュート メトリクスは、 Databricks on Google Cloudではサポートされていません。
このページの見出し