Se connecter à l'IA Runtime
Aperçu
Cette fonctionnalité est en aperçu public.
Connectez-vous au Runtime d'IA depuis des notebooks interactifs, un IDE via un tunnel SSH, des Jobs planifiés, l'API Jobs ou des Bundles d'automatisation déclaratifs. Attacher un Notebook à un Runtime d'IA est le moyen principal d'exécuter des charges de travail de formation et d'affinement, et vous pouvez planifier les mêmes Notebooks en tant que Jobs récurrents ou les automatiser dans des pipelines de déploiement.
Interactif (Notebooks)
C'est la principale façon d'utiliser l'AI Runtime. Pour connecter votre Notebook et configurer l'environnement :
- Depuis un Notebook, cliquez sur le menu déroulant du compute en haut et sélectionnez **Serverless GPU**.
- Cliquez sur l'
pour ouvrir le panneau latéral Environnement . - Sélectionnez un accélérateur dans le champ Accélérateur . Pour les charges de travail d'entraînement distribué, sélectionnez 8xH100 . Consultez les options matérielles pour des conseils sur le choix d'un accélérateur.
- Sélectionnez Standard v5 ou Standard v4 pour l'environnement Standard, ou IA v5 ou IA v4 pour l'environnement IA, dans le champ Environnement de base .
- Cliquez sur Appliquer , puis Confirmer que vous souhaitez appliquer le Runtime IA à votre environnement de notebook.
La connexion à votre compute se termine automatiquement après 60 minutes d'inactivité.
Pour les opérations qui ne nécessitent pas de GPU (par exemple, le clonage d'un repository Git, la conversion de formats de données ou l'analyse exploratoire de données), attachez votre Notebook à un cluster CPU afin de préserver les ressources GPU.
Connexion depuis un terminal IDE
Vous pouvez vous connecter à AI Runtime sur le compute GPU serverless directement à partir d’un terminal dans votre IDE via un tunnel SSH.
Pour vous connecter à l'AI Runtime, exécutez la commande databricks ssh connect avec l'option --accelerator depuis un terminal de votre IDE.
Aucune étape de configuration distincte n'est requise. Pour plus d'informations sur la commande, consultez le groupe de commandesssh.
databricks ssh connect --accelerator=GPU_1xA10
Pour vous connecter et start la session dans Visual Studio Code ou Cursor, utilisez l’option --ide. La CLI ouvre une fenêtre IDE qui pointe vers le dossier d’accueil du Workspace.
databricks ssh connect --ide=vscode
Pour plus de détails sur la configuration, l'ouverture de projets et l'exécution de code, consultez Connectez-vous à Databricks à l'aide d'un tunnel SSH.
Tâches (planifiées)
Vous pouvez planifier des notebooks qui utilisent le Runtime AI en tant que jobs récurrents. Consultez Créer et gérer des Jobs de notebook planifiés pour plus de détails.
Après avoir ouvert le notebook que vous souhaitez utiliser :
- Sélectionnez le bouton **Planifier** en haut à droite.
- Sélectionnez Ajouter un planning .
- Renseignez le formulaire Nouvelle planification avec le Job name , la Planification et le compute .
- Sélectionnez Créer .
Vous pouvez également créer et planifier des jobs à partir de l’interface utilisateur Jobs et pipelines . Consultez Créer un nouveau job pour des instructions détaillées.
L'ajout de dépendances à l'aide du panneau Environnements n'est pas pris en charge pour les Jobs planifiés de l'AI Runtime. Les dépendances doivent être installées par programme dans votre Notebook (par exemple, %pip install). La récupération automatique n'est pas prise en charge. Si votre job échoue en raison de packages incompatibles, vous devez corriger manuellement et le relancer.
Pour les charges de travail qui peuvent dépasser la durée d'exécution maximale de 7 jours, implémentez un point de contrôle manuel pour permettre la reprise. Nous recommandons d'utiliser les volumes Unity Catalog via UCVolumeWriter et UCVolumeReader à partir de serverless_gpu.data. Voir Point de contrôle de modèle.
API Jobs et Declarative Automation Bundles
Vous pouvez créer et gérer par programme des jobs AI Runtime à l’aide de l’ API Databricks Jobs ou des Declarative Automation Bundles. Configurez le type de calcul comme GPU serverless dans la définition de votre Job ou de votre bundle pour automatiser les pipelines de déploiement.
L'exemple suivant montre une configuration de Declarative Automation Bundles pour un Job d'AI Runtime utilisant l'environnement Standard:
resources:
jobs:
sample_job:
name: sample_job_h100
trigger:
periodic:
interval: 1
unit: DAYS
parameters:
- name: catalog
default: ${var.catalog}
- name: schema
default: ${var.schema}
environments:
- environment_key: default
spec:
environment_version: '4'
tasks:
- task_key: notebook_task
notebook_task:
notebook_path: /Workspace/Users/your_email/your_notebook
environment_key: default
compute:
hardware_accelerator: GPU_8xH100
Pour utiliser l'environnement Databricks AI au lieu de l'environnement Standard, définissez base_environment sur l'identifiant de l'environnement AI (par exemple, databricks_ai_v5 pour AI v5) dans l'environnement spec et référencez-le depuis le environment_key de la tâche :
Bêta
La sélection d'un environnement Databricks AI comme environnement de base de Workspace est en version bêta et nécessite l'adhésion d'un administrateur de Workspace. Consultez Créer pour le compute GPU serverless (Runtime AI).
resources:
jobs:
sample_job:
name: sample_job_aiv5_h100
trigger:
periodic:
interval: 1
unit: DAYS
parameters:
- name: catalog
default: ${var.catalog}
- name: schema
default: ${var.schema}
environments:
- environment_key: aiv5
spec:
base_environment: databricks_ai_v5
tasks:
- task_key: notebook_task
notebook_task:
notebook_path: /Workspace/Users/your_email/your_notebook
environment_key: aiv5
compute:
hardware_accelerator: GPU_8xH100