監視、デバッグ、デプロイ

エクスペリメントの追跡、Logの調査、本番運用GPUワークロードのスケジュール、AIランタイムでトレーニングしたモデルのサービングを行います。

• • ラン、Logs、メトリクスの追跡
  • MLflowでエクスペリメント、メトリクス、アーティファクトを追跡し、LogとGPUリソースの使用量を表示します。
• • GPUワークロードのスケジューリング
  • 宣言型オートメーションバンドルを使用してトレーニングコードをデプロイし、ランをスケジュールし、マルチタスクGPUおよびCPUワークフローを構築します。
• • ワークロードをバンドルに変換する
  • AI ランタイムのワークロード YAML を宣言型オートメーションバンドルに変換して、永続的なジョブとして管理します。
• • バンドルタスクの構成
  • トレーニングコードのパッケージ化、GPUコンピュートと環境の選択、バンドルタスクへの構成の受け渡しを行います。
• • トレーニング済みモデルの提供
  • AIランタイムでトレーニングされたモデルをModel Servingにデプロイし、リアルタイムおよびプロビジョニング済みのthroughput推論を行います。