Aller au contenu principal
Dernière mise à jour le

AI Runtime

info

Aperçu

Cette fonctionnalité est en aperçu public.

AI Runtime est une offre de compute GPU serverless chez Databricks conçue pour les charges de travail de deep learning. Vous pouvez utiliser AI Runtime pour entraîner et affiner des modèles personnalisés à l'aide de vos frameworks préférés, et bénéficier d'une efficacité, d'une performance et d'une qualité de pointe.

Get start​

Exécutez votre première charge de travail en quelques minutes à l'aide de nos guides de démarrage rapide.

    • ⚡ Ray
    • Vous venez d'un cluster Ray ? Exécutez Ray sur AI Runtime avec la prise en charge des tableaux de bord.
    • 🧭 Vue d'ensemble
    • Découvrez les points clés d’AI Runtime en deux minutes : processeurs graphiques (GPU) disponibles, fonctionnement et limitations.

Fonctionnalités​

AI Runtime est une plateforme GPU full-stack proposant de nombreuses manières de se connecter aux GPU, des outils d'observabilité et de debugging intégrés, ainsi que des environnements prédéfinis.

Connect to Serverless GPUs : accédez aux GPU serverless où que vous travailliez.

    • Notebooks
    • Associez un notebook au compute GPU serverless et développez de manière interactive, sans configuration de cluster.
    • IDE via SSH
    • Connectez-vous depuis votre IDE ou votre terminal via un tunnel SSH pour travailler directement sur un nœud GPU.
    • CLI AI Runtime
    • Soumettez et gérez des jobs d'entraînement GPU distribués depuis votre ordinateur portable à l'aide de configurations de jobs YAML.
    • Ray
    • Exécutez Ray Core, Ray Data, Ray Train et Ray Tune sur le compute GPU serverless.

Gestion des dépendances : contrôlez les bibliothèques Python et système exécutées par votre charge de travail.

    • Environnements préconfigurés
    • Start à partir d'un environnement Standard minimal ou d'un environnement Databricks AI préchargé avec des frameworks ML.
    • Prise en charge de Docker
    • Apportez votre propre image de conteneur pour exécuter des charges de travail avec une pile de dépendances personnalisée.

Chargement des données dans les GPU : alimentez efficacement vos GPU en données d'entraînement.

    • Chargeurs de données efficaces
    • Stream des flux de données à partir de volumes Unity Catalog grâce à des chargeurs tolérants aux pannes conçus pour une utilisation élevée du GPU.

debugging et observabilité : suivez les expérimentations, inspectez les sorties et diagnostiquez les pannes.

    • MLflow pour le deep learning
    • Suivez les expériences, les métriques et les exécutions avec MLflow, et enregistrez les points de contrôle de modèle dans des volumes Unity Catalog.
    • Visionneuse de logs
    • Visualisez les résultats d'entraînement et surveillez l'utilisation des ressources GPU pendant l'exécution de votre code.
    • Debugging avec des agents
    • Utilisez Genie Code pour générer du code d'entraînement, résoudre les problèmes d'environnement et déboguer les défaillances de GPU.

Planification et diffusion en temps réel : passez du développement interactif aux jobs et aux Endpoint planifiés.

    • Mettez vos jobs en production
    • Déployez du code d'entraînement avec des Declarative Automation Bundles, planifiez des exécutions et créez des workflows GPU et CPU multi-tâches.
    • Servez vos modèles
    • Déployez vos modèles entraînés derrière un endpoint évolutif avec Model Serving.

Exemples​

Clonez des exemples de bout en bout et exécutez-les sur AI Runtime en quelques minutes, depuis la CLI ou dans des notebooks.

En savoir plus​

Trouvez du contenu utile : les dernières mises à jour de produit et le fonctionnement d'AI Runtime en arrière-plan.

Sur cette page