Aller au contenu principal
Dernière mise à jour le

Guides utilisateur pour AI Runtime

info

Aperçu

Cette fonctionnalité est en Aperçu public.

Suivez l’utilisation des GPU et les coûts associés à l’aide de la table système d’utilisation facturable, trouvez des exemples, et résolvez les erreurs courantes.

Migration depuis Slurm​

Si vous venez d’un cluster Slurm plutôt que de Databricks classique, consultez Migrer depuis Slurm pour savoir comment sbatch, srun/torchrun, les partitions et les systèmes de fichiers partagés correspondent à la CLI Databricks.

Suivre l'utilisation et les coûts​

Vous pouvez surveiller vos dépenses GPU AI Runtime en interrogeant la table système d'utilisation facturable (system.billing.usage). La query suivante renvoie l'utilisation totale pour les workloads GPU serverless :

SQL
SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Pour plus d'informations sur le schéma de la table d'utilisation facturable, consultez la référence de la table système d'utilisation facturable.

Les frais de Runtime IA par heure de GPU sur le SKU d'entraînement de modèle sont aux tarifs suivants :

  • H100 à la demande : 7,00 $/heure GPU (US East)
  • A10 à la demande : 2,50 $/heure par GPU (États-Unis Est)

Exemples​

Explorez les tutoriels sur les notebooks et les recettes CLI Databricks exécutables, organisés par tâche. Consultez des exemples d’AI Runtime.

Dépannage​

Genie Code peut aider à résoudre les problèmes d'environnement et de dépendances, ainsi qu'à examiner les échecs de charges de travail GPU et distribuées dans les notebooks connectés à AI Runtime. Voir Utiliser Genie Code avec AI Runtime.

Pour déboguer de manière interactive sur le compute, utilisez le terminal Web pour exécuter des commandes Shell, inspecter l’utilisation du GPU avec nvidia-smi et gérer les fichiers. Le terminal Web est disponible lorsqu’il est connecté à la version 5 ou supérieure de l’environnement GPU serverless. Voir Exécuter des commandes Shell dans le terminal Web Databricks.

ValueError : la taille de numpy.dtype a changé, ce qui peut indiquer une incompatibilité binaire. 96 attendu depuis l'en-tête C, 88 obtenu depuis PyObject​

L'erreur survient généralement lorsqu'il existe une inadéquation entre les versions de NumPy utilisées lors de la compilation d'un package dépendant et la version de NumPy actuellement installée dans l'environnement Runtime. Cette incompatibilité survient souvent en raison de changements dans l'API C de NumPy et est particulièrement notable entre NumPy 1.x et 2.x. Cette erreur indique que le package Python installé dans le notebook a peut-être modifié la version de NumPy.

Solution recommandée :

Vérifiez la version de NumPy dans l’environnement d’exécution et assurez-vous qu’elle est compatible avec vos packages. Consultez les notes de version de l’environnement GPU serverless pour l’environnement 6, l’environnement 5 et l’environnement 4 pour obtenir des informations sur les bibliothèques Python préinstallées. Si vous dépendez d’une autre version de NumPy, ajoutez cette dépendance à votre environnement de compute.

PyTorch ne parvient pas à trouver libcudnn lors de l'installation de torch​

Lorsque vous installez une version différente de torch, vous pouvez voir l’erreur : ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. C’est parce que torch recherche uniquement la bibliothèque cuDNN dans le chemin local.

Solution recommandée :

Réinstallez les dépendances en ajoutant --force-reinstall lors de l'installation de torch:

Python
%pip install torch --force-reinstall
Sur cette page