Início rápido do Notebook de AI Runtime

info

Visualização

Esse recurso está em Prévia Pública.

Este guia de início rápido mostra a maneira mais rápida de executar código no AI Runtime, o compute de GPU serverless para aprendizagem profunda. Você anexa um Notebook a uma GPU e executa um curto o passo de treinamento do PyTorch, sem configuração de cluster.

dica

Principais aprendizados

• Anexe um notebook a Serverless GPU para começar a executar em uma GPU em minutos.
• Comece com 1xA10 para o desenvolvimento e, em seguida, aumente a escala para modelos maiores ou treinamento distribuído.
• Nenhuma configuração de cluster é necessária, e o ambiente Standard já inclui torch.

Antes de começar

O seu workspace deve ter o AI Runtime habilitado e estar em uma região compatível. Consulte Requisitos.

O passo 1: Anexar um notebook a uma GPU

1. Crie ou abra um Notebooks.
2. No menu suspenso de compute na parte superior do notebook, selecione Serverless GPU .
3. No campo Accelerator , selecione 1xA10 .
4. Clique em Aplicar e, em seguida, em Confirmar .

dica

Comece com 1xA10 para desenvolvimento e cargas de trabalho pequenas. Mude para 1xH100 ou 8xH100 quando precisar de mais memória de GPU ou treinamento distribuído com várias GPUs. Consulte Opções de hardware.

Passo 2: Execute seu primeiro código de GPU

Execute o seguinte em uma célula do Notebook para confirmar que a GPU está conectada e execute um treinamento:

Python

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Agora, você está executando em compute de GPU serverless.

Os passos seguintes

• Clone um notebook de ponta a ponta de notebooks de exemplo do AI Runtime.
• Escale em múltiplas GPUs com Distributed treinamento in Notebooks.
• Envie jobs de treinamento do seu terminal com a AI Runtime CLI.