Deep learning
Cet article présente une brève introduction à l'utilisation de PyTorch, TensorFlow et de l'entraînement distribué pour le développement et l'affinement de modèles de deep learning sur Databricks. Il comprend également des liens vers des pages contenant des exemples de notebooks illustrant l'utilisation de ces outils.
-
Pour obtenir des directives générales sur l'optimisation des workflows de deep learning sur Databricks, consultez les bonnes pratiques en matière de deep learning sur Databricks.
-
Pour des informations sur l'utilisation des grands modèles de langage et de l'IA générative sur Databricks, voir :
-
Pour plus d'informations et de conseils sur l'utilisation du GPU serverless avec AI Runtime pour les charges de travail d'apprentissage profond mono et multi-nœuds, consultez AI Runtime.
PyTorch
PyTorch est inclus dans Databricks Runtime ML et fournit le calcul tensoriel accéléré par GPU et des fonctionnalités de haut niveau pour la création de réseaux de neurones profonds. Vous pouvez effectuer un entraînement sur nœud unique ou un entraînement distribué avec PyTorch sur Databricks. See PyTorch. Pour un Notebook de tutoriel de bout en bout utilisant PyTorch et MLflow, consultez workflow de deep learning MLflow 3.
TensorFlow
Databricks Runtime ML inclut TensorFlow et TensorBoard. Vous pouvez donc utiliser ces bibliothèques sans installer aucun package. TensorFlow prend en charge le deep learning et les calculs numériques généraux sur les CPU, les GPU et les clusters de GPU. TensorBoard fournit des outils de visualisation pour vous aider à déboguer et à optimiser les workflows de Machine Learning et de Deep Learning. Consultez TensorFlow pour des exemples d'entraînement sur un nœud unique et distribué.
Formation distribuée
Étant donné que les modèles de deep learning sont intensifs en données et en calcul, l'entraînement distribué peut être important. Pour des exemples de deep learning distribué utilisant des intégrations avec Ray, TorchDistributor et DeepSpeed, consultez l'entraînement distribué.
Suivre le développement de modèles de deep learning
Le suivi reste une pierre angulaire de l'écosystème MLflow et est particulièrement essentiel pour la nature itérative du deep learning. Databricks utilise MLflow pour suivre les exécutions d'entraînement de deep learning et le développement de modèles. Consultez le suivi du développement de modèles à l'aide d'MLflow.