メインコンテンツまでスキップ
に最終更新

AI Runtime

AI Runtimeは、 Databricks上のフルマネージドなサーバーレス GPU コンピュートオファリングであり、トレーニング、ファインチューニング、およびより広範なディープラーニングワークロードを対象としています。

  • Serverless GPU : Databricks CLI、ノートブック、ジョブ、Ray を介してアクセスできるオンデマンドの A10 および H100。
  • マネージド環境 : トレーニングおよびファインチューニングの準備が整った構築済み環境とデータローダー、または独自の Docker コンテナを持ち込みます。
  • 組み込みの可観測性 ：MLflow、ログ記録、デバッグエージェントを介したエクスペリメントのトラッキング。
  • オーケストレーション : GPU ワークロードをスケジュールし、 CI/CD パイプラインで使用します。

使ってみる​

AIランタイムについて学び、最初のワークロードをランしてください。

    • 🧭 概要
    • AIランタイムの主要な点（利用可能なGPU、しくみ、制限）について学習します。
    • 💡 例
    • タスク別に整理されたノートブックチュートリアルと実行可能なDatabricks CLIレシピを参照してください。

GPUへの接続​

Databricks CLI、ノートブック、ジョブ、またはRayからGPUにアクセスします。

    • Databricks CLI
    • YAMLジョブ構成を使用して、ノートパソコンから分散GPUトレーニングジョブを送信および管理します。
    • ノートブック
    • ノートブックをAI ランタイムにアタッチし、クラスターのセットアップなしで対話的に開発できます。
    • ジョブ
    • AI ランタイム上でGPUワークロードを定期的なジョブとしてスケジュールし、アップストリームおよびダウンストリームのタスクと調整します。
    • Ray
    • AI ランタイム上でRay Core、Ray Data、Ray Train、Ray Tuneをランします。

ワークロードを開発する​

データを効率的に読み込み、環境を構成し、コーディングエージェントを使用してワークロードを開発します。

    • データをGPUにロードする
    • 高いGPU稼働率を実現するために構築されたフォールトトレラントなローダーを使用して、Unity Catalogボリュームからデータをストリームします。
    • Pre-built environments
    • 最小限のStandard環境、または機械学習フレームワークがプリロードされたDatabricks AI環境から開始します。
    • カスタムDockerイメージ
    • ワークロードにカスタムシステムライブラリまたは依存関係が必要な場合は、独自のDockerイメージを使用してください。

モニタリング、デバッグ、デプロイ​

エクスペリメントの追跡、Logsの検査、失敗の診断、本番運用ワークロードのスケジューリングを行います。

    • デバッグ用のMLflow
    • MLflow を使用して、エクスペリメント、メトリクス、ランを追跡します。
    • ログを表示
    • トレーニング出力を表示し、コードの実行中にGPUリソースの使用状況を監視し、Genie Codeでデバッグしてください。
    • ワークロードのスケジュール
    • 宣言型オートメーションバンドルを使用してトレーニングコードをデプロイし、ランのスケジュールを設定し、マルチタスクのGPUおよびCPUワークフローを構築します。

ガイド​

AI ランタイムの移行ガイド、チュートリアル、技術リソースを確認してください。

このページの見出し