AI Runtime ノートブッククイックスタート
プレビュー
この機能は パブリック プレビュー段階です。
AI ランタイムを使用すると、空のノートブックから数回クリックするだけで、GPU上のPyTorchに移行できます。クラスターを設定することなく、ノートブックを Serverless GPU にアタッチし、GPUモニタリング、GPUノード上のターミナル、組み込みのGenie Codeを利用できます。
始める前に
ワークスペースで AI Runtime が有効になっており、サポートされているリージョン内にある必要があります。要件を参照してください。
ステップ 1: ノートブックを GPU にアタッチする
- ノートブックを作成または開きます。
- ノートブックの上部にあるコンピュートのドロップダウンから、 Serverless GPU を選択します。
- アクセラレータ フィールドで、 1xA10 を選択します。
- [適用] をクリックし、続いて [確認] をクリックします。
開発および小規模なワークロードには、 1xA10 で開始します。より多くの GPU メモリやマルチ GPU 分散トレーニングが必要な場合は、 1xH100 、 8xH100 、または 8xB300 に移行します。ハードウェアオプションを参照してください。
ステップ 2：最初の GPU コードを実行する
The default Databricks AI environment comes with PyTorch, Transformers, vLLM, pandas, and many more packages preinstalled.完全なリストについては、Databricks AI environment を参照してください。
Run the following ノートブック to confirm the GPU is attached and run one トレーニング ステップ:
AI ランタイム クイックスタート ノートブック
Serverless GPU コンピュートでのトレーニングが実行されるようになりました。
GPUノートブックを探索する
このノートブックには、GPUでの作業を支援するツールが付属しています。ベース環境の切り替え、GPU使用率のモニタリング、GPUノードでのターミナルのオープン、Genie Codeを使用したコードの記述とデバッグを行うことができます。
Switch environments
右側のパネルで [Environment] をクリックして、別のベース環境またはアクセラレータを選択します。「環境の設定」を参照してください。
![StandardおよびAI環境バージョンを示す、[Base environment]ドロップダウンが開いた状態の[Environment]サイドパネル。](/aws/ja/assets/images/air-notebook-env-091120364c27153b2cb267bba9956b16.png)
GPU 使用率の確認
コードの実行中にライブの GPU 使用率とメモリを確認するには、右側のパネルで GPU リソース をクリックします。GPU リソースの監視を参照してください。
GPU ノードでターミナルを開く
右下の [Terminal] をクリックして、GPUノード上でシェルを取得します。nvidia-smiの実行、ファイルの検査、またはプロセスの直接のデバッグを行います。Databricks Webターミナルでシェルコマンドを実行するを参照してください。
Let Genie Code write and debug for you
右側のパネルで Genie Code をクリックし、必要な内容を記述します。エージェントは、トレーニングコードの記述、依存関係の競合の修正、およびGPU障害のデバッグを行うことができます。詳細については、AIランタイムでのGenie Codeの使用を参照してください。
次のステップ
- AI ランタイム のサンプルノートブックからエンドツーエンドのノートブックを複製します。
- ノートブックでの分散トレーニングを使用して複数の GPU にわたってスケールします。