Aller au contenu principal
Dernière mise à jour le

Démarrage rapide de AI Runtime Notebook

info

Aperçu

Cette fonctionnalité est en prévisualisation publique.

Utilisez AI Runtime pour passer d'un notebook vide à PyTorch sur un GPU en quelques clics. Associez un notebook à un Serverless GPU sans cluster à configurer, et bénéficiez d'un monitoring GPU, d'un terminal sur le nœud GPU et de Genie Code intégré.

Un notebook Runtime d’IA connecté au GPU Serverless, avec des repères pour sélectionner le type de GPU, configurer l’environnement, assurer le monitoring de l’utilisation, utiliser l’agent pour coder et ouvrir un terminal.

Conditions requises​

Votre workspace doit avoir AI Runtime activé et se trouver dans une région prise en charge. Consultez les exigences.

Étape 1 : associer un notebook à un GPU​

  1. Créer ou ouvrir un notebook.
  2. Dans le menu déroulant compute en haut du Notebook, sélectionnez Serverless GPU .
  3. Dans le champ Accelerator , sélectionnez 1xA10 .
  4. Cliquez sur Appliquer , puis sur Confirmer .
astuce

Start par 1xA10 pour le développement et les petites charges de travail. Passez à 1xH100 , 8xH100 ou 8xB300 lorsque vous avez besoin de plus de mémoire GPU ou d’un entraînement distribué multi-GPU. Voir les options matérielles.

Étape 2 : Exécutez votre premier code GPU​

L' environnement Databricks AI par default est fourni avec PyTorch, Transformers, vLLM, pandas et de nombreux autres packages préinstallés. Pour la liste complète, voir l'environnement Databricks AI.

Exécutez le notebook suivant pour confirmer que le GPU est associé et lancez une étape d'entraînement :

Notebook de démarrage rapide AI Runtime

Ouvrir le notebook dans un nouvel ongletOuvrir dans Databricks

Vous vous entraînez désormais sur le compute GPU serverless.

Explorer le notebook GPU​

Le notebook est fourni avec des outils pour vous aider à travailler sur le GPU. Vous pouvez changer d’environnement de base, surveiller l’utilisation du GPU, ouvrir un terminal sur le nœud GPU et utiliser Genie Code pour écrire et déboguer votre code.

Changer d’environnement​

Cliquez sur Environment dans le panneau de droite pour sélectionner un autre environnement de base ou un autre accélérateur. Consultez la section Configurer votre environnement.

Le panneau latéral Environnement avec le menu déroulant Environnement de base ouvert, affichant les versions d'environnement Standard et IA.

Surveiller l'utilisation du GPU​

Cliquez sur Ressources GPU dans le panneau de droite pour afficher l'utilisation des ressources et de la mémoire GPU en direct pendant l'exécution de votre code. Voir Monitor GPU Ressources.

Volet des ressources GPU affichant des graphiques d'utilisation du GPU et de la mémoire au fil du temps.

Ouvrir un terminal sur le nœud GPU​

Cliquez sur Terminal en bas à droite pour obtenir un Shell sur le nœud GPU. Exécutez nvidia-smi, inspectez les fichiers ou débuguez directement les processus. Consultez Exécuter des commandes Shell dans le terminal Web Databricks.

Terminal Web exécutant nvidia-smi sur un nœud GPU H100.

Laissez Genie Code écrire et déboguer pour vous​

Cliquez sur Genie Code dans le panneau de droite et décrivez ce que vous souhaitez. L'agent peut écrire du code d'entraînement, résoudre les conflits de dépendances et déboguer les pannes de GPU. Voir Utiliser Genie Code avec Runtime.

Volet Genie Code avec une invite demandant à l’agent de résoudre un conflit de bibliothèque torchao.

Étapes suivantes​

Sur cette page