メインコンテンツまでスキップ

環境をセットアップする

AIランタイムは、2つのマネージドPython環境を提供します。スタンダード環境にはcudaが含まれています。環境バージョン5より、torchとtorchvisionはプリインストールされなくなりました。Databricks AI環境には、PyTorch、Transformers、およびその他の機械学習およびディープラーニングフレームワークがプリロードされています。依存関係スタックを完全に制御する場合はスタンダード環境を、すぐに使用できるトレーニング設定が必要な場合はAI環境を選択してください。どちらの環境から起動しても、自分でさらにパッケージをインストールできます。

このページのキーポイント:

  • 依存関係を完全に制御するための 標準 環境、またはすぐに使用できる機械学習スタックのための Databricks AI 環境を選択します。
  • スタンダードには cuda が含まれます。環境バージョン5以降、torchとtorchvisionはプリインストールされていません。AI環境には、PyTorch、Transformersなどが追加されます。
  • ノートブックでは %uv pip install (環境バージョン5以降) または %pip install を使用して、CLIでは environment.dependencies を使用して、追加のパッケージをインストールします。

使用する環境​

AIランタイムは、標準環境とDatabricks AI環境の2つのマネージドPython環境を提供します。

環境

主な特徴

使用する場合

スタンダード環境

最小限。cudaが含まれます。環境バージョン 5 以降、torch と torchvision はプリインストールされなくなりました。

依存関係スタックを完全に制御し、必要なものだけをインストールしたい

Databricks AI 環境

一般的な 機械学習 フレームワーク (PyTorch、Transformers など) があらかじめ読み込まれています

手動の依存関係管理を行わずに、トレーニング、ファインチューニング、実験のための完全な環境が必要な場合

環境

主な特徴

使用する場合

スタンダード環境

最小限。cudaが含まれます。環境バージョン 5 以降、torch と torchvision はプリインストールされなくなりました。

依存関係スタックを完全に制御し、必要なものだけをインストールしたい

Databricks AI 環境

一般的な 機械学習 フレームワーク (PyTorch、Transformers など) があらかじめ読み込まれています

手動の依存関係管理を行わずに、トレーニング、ファインチューニング、実験のための完全な環境が必要な場合

ワークスペース管理者が AI ランタイム用に構築した ワークスペースベース環境 を使用することもできます。Serverless GPU コンピュート (AI ランタイム) 用のビルド を参照してください。

ノートブックで環境を選択するには、 環境 サイド パネルを開き、 基本環境を選択します:

ノートブック環境サイドパネルでベース環境を選択します。

標準環境(最小環境)​

AIランタイムの動作に必要なパッケージのみを含む、最小限の安定した環境。この環境には、GPUサポートのためのcudaが含まれています。環境バージョン 5 以降、 torch と torchvision はプリインストールされなくなりました。ワークロードに必要なバージョンを%uv pip installまたは%pip installでインストールします。各環境バージョンにインストールされているパッケージについては、以下のリリースノートを参照してください。

用途:依存関係スタックを完全に制御し、必要なものだけをインストールすることを好むユーザーに適しています。

選択方法: [環境] サイドパネルのベース環境で [Standard v6] を選択します。

異なるバージョンにインストールされているパッケージバージョンの詳細については、リリースノートを参照してください。

Databricks AI環境​

環境4以降で利用可能です。AI環境は、共通のランタイムパッケージとGPUでのMachine Learningに固有のパッケージを含む標準環境の上に構築されています。プリインストールされているパッケージは次のとおりです。

  • PyTorch (CUDAサポート付き)
  • Transformers (Hugging Face)
  • および追加の機械学習/DL依存関係

最適なユーザー: 手動の依存関係管理なしで、トレーニング ワークロード、ファインチューニング、実験のための完全な環境を必要とする 機械学習 実務者。

選択するには:「 環境 」サイドパネルで、基本環境として AI v6 を選択してください。

異なるバージョンにインストールされているパッケージバージョンの詳細については、リリースノートを参照してください。

追加パッケージのインストール​

管理環境から起動するか、ワークスペースの基本環境から起動して、その上に独自のPythonパッケージをインストールできます。それらをインストールする方法は、AI ランタイムにどのように接続するかによって異なります。

ノートブックで​

ノートブックまたはトレーニングスクリプトの先頭に %uv pip でパッケージをインストールします。これは uv でインストールされ、 %pip より高速です。バージョンをピン留めしてランの再現性を維持する:

Python
%uv pip install "trl==1.1.0"
%uv pip install "transformers==5.5.4"

各環境バージョンでどれがサポートされているかを含む、%pipと%uv pipの完全なリファレンスについては、%uvコマンドでライブラリを管理を参照してください。

マルチGPUワークロードに@distributedデコレーターを使用する場合、.distributed()を呼び出す前にインストールしたパッケージは自動的にスナップショットされ、すべての分散プロセスに伝播されます。インストールされたパッケージの合計サイズは、15 GBを超えてはなりません。詳細については、「 ノートブックへの依存関係の追加」を参照してください。

CLI を使用する場合​

air CLIは、同じ管理対象環境を使用します。environment.versionで1つを選択し、ワークロードYAMLのenvironment.dependenciesにその上にインストールするパッケージをリストします。CLIはuvを使用して選択した環境にインストールするため、個別の仮想環境を自分で管理する必要はありません:

YAML
environment:
version: '6'
dependencies:
- trl==1.1.0
- transformers==5.5.4

代わりにDatabricks AI環境から起動するには、versionをdatabricks_ai_v5などのAI環境識別子に設定します。依存関係の完全な形式、サポートされているインストールフラグ、カスタムDockerイメージのサポートについては、環境を参照してください。

ワークスペースの基本環境​

ワークスペース管理者は、AI ランタイムの ワークスペース基本環境 を構築できます。これにより、 基本環境 ドロップダウン メニューからワークスペース内のすべてのユーザーがこれを使用できるようになります。詳細については、「 Serverless GPU コンピュート (AI ランタイム) 用のビルド」を参照してください。

スケジュールされたワークロードでベース環境を使用するには、ジョブまたはバンドルのenvironmentsブロックでその識別子によって参照します。たとえば、この宣言型オートメーションバンドルタスクは、Databricks AI 環境を選択します。

YAML
resources:
jobs:
train:
tasks:
- task_key: train
environment_key: default
environments:
- environment_key: default
spec:
base_environment: databricks_ai_v6

完全なジョブの例については、「 GPU ワークロードのスケジュールとタスクの構成」を参照してください。

環境のキャッシュとカスタムモジュール​

環境はいつキャッシュされますか?​

AIランタイムはノートブックの環境をキャッシュするため、ノートブックを再度開くときにパッケージを再インストールする必要はありません。詳細については、「環境依存関係をReset」を参照してください。

キャッシングは対話型ノートブックに適用されます。air CLIを通じて実行されるか、ジョブとしてスケジュールされたワークロードは、このキャッシュを使用しません。ランごとに依存関係が新規にインストールされます。

ベストプラクティスとして、パッケージを特定のバージョンにピン留めしてください。これにより、キャッシュされた環境が有効なままになり、ランが再現可能になります。

カスタムモジュールをインポートする方法​

次のステップでは、独自のPythonモジュールの使用方法を説明します。

  1. コードをワークスペースに同期します。 Gitフォルダーを使用してGitリポジトリをワークスペースにクローンするか、ファイルをワークスペースファイルとして直接uploadします。チームプロジェクトの/Workspace/Shared、または個人的な開発用のユーザーフォルダの下に共有コードを格納します。コードをGitフォルダに保持することで、バージョン管理が維持されます。
  2. フォルダをsys.pathに追加し、ノートブックまたはトレーニングスクリプトの先頭でインポートします :
Python
import sys
sys.path.append("/Workspace/Shared/my-project/src")
from my_module import my_function

制限​

AIランタイムでは、以下の機能は利用できません:

  • Spark関数 : PySpark関数を直接インポートまたは使用することはできません。AI Runtime は Python 専用の環境であり、 Spark はローカル ランタイムとして使用できません。ただし、 Spark Connect はデータの読み込みに使用できます。AI ランタイムへのデータの読み込みを参照してください。
  • Databricks Runtime 機械学習ライブラリ : プリインストールされているパッケージは、Databricks Runtime 機械学習の代わりにはなりません。Databricks Runtime 機械学習で利用可能な一部の機械学習ライブラリは、AI Runtimeにプリインストールされていない場合があります。
  • プライベート・アーティファクト : AI ランタイムは特定のケースでプライベート・アーティファクトをサポートします。詳細については、アカウントチームにお問い合わせください。