AI Runtime ノートブッククイックスタート
備考
プレビュー
この機能は パブリック プレビュー段階です。
このクイックスタートでは、ディープラーニング向けServerless GPUコンピュートであるAI ランタイム上でコードを実行する最速の方法を紹介します。ノートブックをGPUにアタッチし、クラスターの設定なしで短いPyTorchトレーニングステップを実行します。
ヒント
主なポイント
- ノートブックを Serverless GPU にアタッチすると、数分で GPU での実行を開始できます。
- 開発にはまず 1xA10 を使用し、より大規模なモデルや分散トレーニングを行う場合はスケールアップします。
- クラスターのセットアップは不要であり、標準環境にはすでに
torchが含まれています。
始める前に
ワークスペースで AI Runtime が有効になっており、サポートされているリージョン内にある必要があります。要件を参照してください。
ステップ 1: ノートブックを GPU にアタッチする
- ノートブックを作成または開きます。
- ノートブックの上部にあるコンピュートのドロップダウンから、 Serverless GPU を選択します。
- アクセラレータ フィールドで、 1xA10 を選択します。
- [適用] をクリックし、続いて [確認] をクリックします。
ヒント
開発および小規模なワークロードには、まず 1xA10 を使用します。より多くの GPU メモリまたはマルチ GPU 分散トレーニングが必要な場合は、 1xH100 または 8xH100 に移行します。ハードウェア オプションを参照してください。
ステップ 2：最初の GPU コードを実行する
GPU がアタッチされていることを確認し、1 つのトレーニングステップを実行するには、ノートブックのセルで次を実行します。
Python
import torch
# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))
# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()
loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())
Serverless GPU コンピュートで実行されています。
次のステップ
- AI ランタイム のサンプルノートブックからエンドツーエンドのノートブックを複製します。
- ノートブックでの分散トレーニングを使用して複数の GPU にわたってスケールします。
- AI ランタイム CLIを使用して、ターミナルからトレーニングジョブを送信します。