Surveiller, déboguer et déployer

Suivez des expérimentations, inspectez des logs, planifiez des charges de travail GPU en production et déployez les modèles que vous entraînez sur AI Runtime.

• • Suivre les exécutions, les logs et les métriques
  • Suivez les Experimentation, les indicateurs et les artefacts avec MLflow, et affichez les Log et l'utilisation des Ressources GPU.
• • Planifiez des charges de travail GPU
  • Déployez du code d'entraînement avec des Declarative Automation Bundles, planifiez des exécutions et créez des workflows GPU et CPU multi-tâches.
• • Convertir une charge de travail en bundle
  • Convertissez un YAML de charge de travail AI Runtime en Declarative Automation Bundles pour le gérer en tant que job persistant.
• • Configurer les tâches de bundle
  • Package le code d'entraînement, sélectionnez le compute GPU et les environnements, et transmettez la configuration aux tâches du bundle.
• • Servir des modèles entraînés
  • Déployez des modèles entraînés sur AI Runtime vers Model Serving pour l'inférence temps réel et avec throughput provisionné.