Aller au contenu principal
Dernière mise à jour le

Démarrage rapide de AI Runtime Notebook

info

Aperçu

Cette fonctionnalité est en prévisualisation publique.

Ce guide de démarrage rapide présente le moyen le plus rapide d'exécuter du code sur AI Runtime, le compute GPU serverless pour le deep learning. Vous associez un notebook à un GPU et exécutez une courte étape d'entraînement PyTorch, sans configuration de cluster.

astuce

Points clés

  • Attachez un Notebook à Serverless GPU pour start à l'exécuter sur un GPU en quelques minutes.
  • start avec 1xA10 pour le développement, puis montez en charge pour des modèles plus volumineux ou un entraînement distribué.
  • Aucune configuration de cluster n'est requise et l'environnement Standard inclut déjà torch.

Avant de commencer​

Votre workspace doit avoir AI Runtime activé et se trouver dans une région prise en charge. Consultez les exigences.

Étape 1 : associer un notebook à un GPU​

  1. Créer ou ouvrir un notebook.
  2. Dans le menu déroulant compute en haut du Notebook, sélectionnez Serverless GPU .
  3. Dans le champ Accelerator , sélectionnez 1xA10 .
  4. Cliquez sur Appliquer , puis sur Confirmer .
astuce

Start avec 1xA10 pour le développement et les petites charges de travail. Passez à 1xH100 ou 8xH100 lorsque vous avez besoin de davantage de mémoire GPU ou d’un entraînement distribué sur plusieurs GPU. Consultez les options matérielles.

Étape 2 : Exécutez votre premier code GPU​

Exécutez le code suivant dans une cellule de Notebook pour confirmer que le GPU est attaché et exécuter une étape d’entraînement :

Python
import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Vous vous exécutez désormais sur un compute GPU serverless.

Étapes suivantes​

Sur cette page