サーバレス GPU コンピュート
ベータ版
この機能は ベータ版です。
この記事では、 Databricks 上のサーバレス GPU コンピュートについて説明し、推奨される使用例、GPU コンピュート リソースの設定方法のガイダンス、および機能の制限について説明します。
サーバレス GPU コンピュートとは?
サーバレス GPU コンピュートは、サーバレス コンピュート オファリングの一部です。 サーバレス GPU コンピュートは、カスタムのシングルノードおよびマルチノード ディープラーニング ワークロードに特化しています。 サーバレス GPU コンピュートを使用すると、お気に入りのフレームワークを使用してカスタムモデルをトレーニングおよび微調整し、最先端の効率、パフォーマンス、品質を得ることができます。
サーバレス GPU コンピュートには、次のものが含まれます。
- ノートブック、 Unity Catalog、 MLflowにわたる統合されたエクスペリエンス: ノートブックを使用して、コードを対話形式で開発できます。
- サーバレス GPU コンピュートは A10 をサポートしています 。
サーバレス GPU コンピュートにプリインストールされているパッケージは、 Databricks Runtime MLに代わるものではありません。 共通のパッケージは存在しますが、すべての Databricks Runtime ML 依存関係とライブラリがサーバレス GPU コンピュート環境に反映されるわけではありません。
推奨される使用例
Databricks は、トレーニングのカスタマイズと GPU を必要とするあらゆるモデルのトレーニングユースケースに、サーバレス GPU コンピュートを推奨します。
例えば：
- ディープラーニングベースの予測ワークロード
- ファインチューニング
- コンピュータビジョン
- コンピュータオーディオ
- レコメンダーシステム
必要条件
us-west-2またはus-east-1
インストールされているもの
ノートブック向けサーバレス GPU コンピュートは、アプリケーションの互換性を確保するための安定したクライアント API を提供する環境バージョンを使用します。 これにより、Databricks はサーバーを個別にアップグレードし、ワークロードのコードを変更することなく、パフォーマンスの向上、セキュリティの強化、バグ修正を実現できます。
サーバレス GPU コンピュートは、次のパッケージに加えて、 環境バージョン 3 を使用します。
CUDA 12.4torch 2.6.0torchvision 0.21.0
サーバレス コンピュート リリースノート で、システム環境 Version 3 に含まれるパッケージを参照してください。
ベース環境 は、サーバレス GPU コンピュートには対応していません。 サーバレス GPU コンピュートを環境に設定するには、 依存関係を [環境] サイド パネルで直接指定 するか、依存関係 pip install します。
環境へのライブラリの追加
サーバレス GPU コンピュート環境にライブラリを追加でインストールすることができます。 「ノートブックに依存関係を追加する」を参照してください。
サーバレス GPU コンピュートのセットアップ
ワークステーションのノートブック環境からサーバレス GPU コンピュートの使用を選択できます。
ノートブックを開いた後、次の操作を行います。
を選択して、 環境 サイドパネルを開きます。- アクセラレータ フィールドから A10 を選択します。
- 環境バージョン として 3 を選択します。
- 適用 を選択し、次に、サーバレス GPU コンピュートをノートブック環境に適用することを 確認します 。リソースに接続した後、ノートブックはすぐに利用可能なコンピュートの使用を開始します。
コンピュートへの接続は、60分間操作がないと自動的に終了します。
制限
- サーバレス GPU コンピュートは A10 コンピュートのみをサポートします。
- PrivateLink はサポートされていません。PrivateLink の背後にあるストレージまたは pip リポジトリはサポートされていません。
- サーバレス GPU コンピュートは、 コンプライアンス セキュリティ プロファイル ワークスペース (HIPPA や PCT など) ではサポートされていません 。 現時点では、規制対象データの処理はサポートされていません。
- サーバレス GPU コンピュートでのジョブのスケジューリングはサポートされていません。 ユーザーは、 Databricks ジョブUIにサーバレスGPUコンピュートがアタッチされているノートブックをスケジュールしないでください。
- サーバレス GPU コンピュートは、対話型環境でのみサポートされています。
ノートブックの例
次のノートブックは、 PyTorch とサーバレス GPU コンピュートを使用してディープラーニング トレーニングを実行する方法の簡単な例を示しています。