AIランタイムのガイド
既存のワークロードの移行、トレーニングパフォーマンスの向上、GPU 使用率の追跡、および一般的なエラーのトラブルシューティングを行います。
-
- AIランタイムを使用する理由
- コスト、開発者のエクスペリエンス、スケールの観点から、AI RuntimeとDatabricks Runtime 機械学習のクラシックコンピュートを比較します。
-
- 従来のGPUワークロードを移行する
- 既存のディープラーニングワークロードを、従来のDatabricksクラスターからAI ランタイムに移動します。
-
- Slurm からの移行
- Slurmバッチスクリプト、分散ランチャー、共有ストレージをDatabricks CLIにマップします。
-
- ワークロードのパフォーマンスを最適化する
- トレーニングのthroughputを向上させ、長時間実行されるジョブの障害に対する耐性を高めます。
使用状況とコストの追跡
課金利用システムテーブル (system.billing.usage) をクエリすることで、AI ランタイム の GPU 利用料金を監視できます。次のクエリーは、Serverless GPU ワークロードの合計使用量を返します。
SELECT
SUM(usage_quantity)
FROM
system.billing.usage
WHERE
product_features.serverless_gpu IS NOT NULL
課金利用テーブルスキーマの情報については、 「課金利用システムテーブルリファレンス」を参照してください。
現在のGPU価格については、 AIランタイム 価格を参照してください。
例
タスクごとに整理された、実行可能なノートブック・チュートリアルと Databricks CLI レシピをご覧ください。AI ランタイムの例を参照してください。
トラブルシューティング
Genie Codeは、AI ランタイムに接続されたノートブックにおける環境や依存関係の問題の解決、およびGPUや分散ワークロードの障害調査を支援します。「AI ランタイムでのGenie Codeの使用」を参照してください。
コンピュート上で対話的にデバッグするには、Webターミナルを使用してシェルコマンドを実行し、 nvidia-smiでGPUの使用状況を調べ、ファイルを管理します。Webターミナルは、 AIランタイム環境バージョン5以上(β)に接続しているときに利用できます。「 Databricks Webターミナルでシェルコマンドをランする」を参照してください。
ValueError: numpy.dtype サイズが変更されました。バイナリの非互換性を示している可能性があります。C ヘッダーから 96 を期待していましたが、PyObject から 88 を取得しました
このエラーは通常、依存パッケージのコンパイル時に使用された NumPy のバージョンと、ランタイム環境に現在インストールされている NumPy のバージョンが一致しない場合に発生します。この非互換性は、NumPy の C API の変更が原因で発生することが多く、特に NumPy 1.x から 2.x への移行で顕著に見られます。このエラーは、ノートブックにインストールされている Python パッケージによって NumPy のバージョンが変更された可能性があることを示しています。
推奨ソリューション:
ランタイムのNumPyバージョンを確認し、パッケージと互換性があることを確認してください。プリインストールされているPythonライブラリに関する情報については、環境6、 環境5、および環境4のAIランタイム環境リリースノートを参照してください。NumPyの異なるバージョンに依存している場合は、その依存関係をコンピュート環境に追加してください。
torch のインストール時に PyTorch が libcudnn を見つけられない
異なるバージョンの torch をインストールすると、エラー ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory が表示される場合があります。これは、torch がローカルパス内でのみ cuDNN ライブラリを検索するためです。
推奨ソリューション:
torch をインストールする際に --force-reinstall を追加して、依存関係を再インストールします:
%pip install torch --force-reinstall