Aller au contenu principal
Dernière mise à jour le

Migrer les charges de travail GPU classiques vers le serverless

Si vous déplacez une charge de travail de deep learning existante d'un cluster Databricks classique (avec Databricks Runtime ML) vers le serverless (avec AI Runtime), suivez ces étapes :

  1. Remplacer le code dépendant du cluster. Supprimez toutes les références à l'entraînement distribué basé sur Spark (par exemple, TorchDistributor) et remplacez-les par le décorateur @distributed du SDK Databricks AI Runtime (databricks.air).
  2. Chargement des données de mise à jour. Remplacer les chemins d’accès DBFS directs par des chemins de volume Unity Catalog (/Volumes/...). Remplacer les opérations sur les DataFrame Spark locaux par Spark Connect. Pour le streaming de données basées sur des fichiers à partir de volumes, utilisez UCVolumeDataset à partir de databricks.air.data. Voir Charger des données sur AI Runtime.
  3. Configurez votre environnement. Certaines bibliothèques préinstallées de Databricks Runtime ML ne sont pas disponibles sur AI Runtime. Configurez un environnement GPU serverless et installez les packages nécessaires à votre charge de travail avec %pip install. Voir Configurer votre environnement.
  4. Mettre à jour les chemins des points de contrôle. Déplacez les points de contrôle de DBFS ou du stockage local vers les volumes Unity Catalog (/Volumes/<catalog>/<schema>/<volume>/...). Pour la création de points de contrôle distribués, utilisez UCVolumeWriter et UCVolumeReader à partir de databricks.air.data, qui acheminent les E/S via le NVMe local. Consultez Checkpoint with Distributed Checkpoint (DCP).
  5. Examinez votre configuration MLflow. Dans AI Runtime, l’API .distributed() crée automatiquement des exécutions MLflow. Pour personnaliser l’Experimentation, définissez-la à l’aide d’un chemin absolu. Pour reprendre les exécutions interrompues, définissez un nom d’exécution. Consultez Ce que fournit MLflow.
  6. Testez d'abord de manière interactive. Validez votre charge de travail dans un notebook interactif avant de la planifier en tant que job.