AI ランタイム ノートブックのクイックスタート

AI ランタイムを使用すると、数回クリックするだけで、空のノートブックから GPU 上の PyTorch に移動できます。ノートブックを Serverless GPU にアタッチしてクラスターをセットアップせずに、GPU モニタリング、GPU ノードのターミナル、組み込みの Genie Code を利用します。

同じノートブックを複数の GPU にわたってスケールするには、ノートブックでの分散トレーニングを参照してください。

要件

ワークスペースで AI ランタイムが有効になっており、サポートされているリージョンにある必要があります。要件を参照してください。

ステップ 1: ノートブックを GPU にアタッチする

1. ノートブックを作成するか、開きます。
2. ノートブック上部のコンピュートドロップダウンから[ Serverless GPU ]を選択します。
3. Accelerator フィールドで 1xA10 を選択します。
4. 適用 をクリックし、次に 確認 をクリックします。

ヒント

開発および小規模なワークロードには、 1xA10 で起動します。GPU メモリまたはマルチ GPU 分散トレーニングが必要な場合は、 1xH100 、 8xH100 、または 8xB300 に移行してください。ハードウェアのオプションを参照してください。

ステップ2: 最初のGPUコードをランする

defaultの Databricks AI環境 には、PyTorch、Transformers、vLLM、pandasなど、多くのパッケージがプリインストールされています。完全なリストについては、 Databricks AI環境を参照してください。

以下のノートブックをランして、GPUがアタッチされていることを確認し、1つのトレーニングステップを実行します。

AIランタイムクイックスタートノートブック

ノートブックを新しいタブで開くOpen in Databricks

これで AI ランタイム でトレーニングができるようになりました。

GPU ノートブックの探索

ノートブックには、GPUでの作業を支援するツールが付属しています。基本環境の切り替え、GPU使用率の監視、GPUノードでのターミナルの起動、Genie Codeを使用したコードの記述およびデバッグを行うことができます。

環境を切り替える

右側のパネルで [環境] をクリックし、異なる基本環境やアクセラレータを選択してください。環境の設定を参照してください。

GPU使用率の監視

右側のパネルで GPU リソース をクリックして、コードの実行中にライブ GPU 使用率とメモリを表示します。ライブ GPU リソースの監視」を参照してください。

GPU ノードでターミナルを開く

右下の ターミナル をクリックして、GPUノードでシェルを取得します。nvidia-smi のラン、ファイルの検査、またはプロセスの直接デバッグを行います。「Databricks Webターミナルでシェルコマンドをラン」を参照してください。

Genie Codeにコードの作成とデバッグを任せる

右側のパネルで Genie Code をクリックし、必要な内容を記述してください。エージェントは、トレーニングコードの記述、依存関係の競合の修正、GPU 障害のデバッグを行うことができます。AI ランタイムで Genie Code を使用するを参照してください。

次のステップ

• ノートブックでの分散トレーニングで複数のGPUにスケールします。
• AI ランタイム のサンプルからエンドツーエンドのノートブックを複製します。