手動トレース
MLflowの自動トレース では、サポートされているフレームワークの可観測性がすぐに提供されますが、手動トレースでは、生成AI アプリケーションを計測可能にする方法を完全に制御できます。この柔軟性は、詳細なモニタリング機能とデバッグ機能を必要とする本番運用に対応したアプリケーションを構築するために不可欠です。
手動トレースを使用する場合
手動トレースは、次の必要がある場合に最適です。
トレース構造のきめ細かな制御
- コードのどの部分をトレースするかを正確に定義します
- スパンのカスタム階層を作成する
- 境界と関係にまたがる制御
カスタムフレームワークインストルメンテーション
- インストゥルメント独自のフレームワークまたは内部フレームワーク
- カスタム LLM ラッパーにトレースを追加する
- 公式統合前に新しいライブラリをサポート
高度なワークフローシナリオ
- マルチスレッドまたは非同期操作
- カスタム集計による応答のストリーミング
- 複雑なネストされた操作
- カスタム・トレース・メタデータと属性
前提 条件
- MLflow 3
- MLflow 2.x
このページには次のパッケージが必要です:
- mlflow[databricks]>=3.1 : 生成AI 機能と Databricks 接続を備えたコア MLflow 機能。
- openai>=1.0.0 : (オプション) カスタムコードがOpenAIと相互作用する場合のみ。必要に応じて、他のSDKと交換します。
基本要件をインストールします。
Python
%pip install --upgrade "mlflow[databricks]>=3.1"
# %pip install --upgrade openai>=1.0.0 # Install if needed
このガイドには、次のパッケージが必要です。
- mlflow[databricks]>=2.15.0,<3.0.0 :Databricks 接続を備えたコア MLflow 機能。
- openai>=1.0.0 : (オプション) カスタムコードが OpenAI と対話する場合のみ。
注記
MLflow バージョン
Databricks では、 mlflow[databricks]を使用する場合は MLflow 3.1 以降をインストールすることを強くお勧めします。
基本要件をインストールします。
Python
%pip install --upgrade "mlflow[databricks]>=2.15.0,<3.0.0"
# pip install --upgrade openai>=1.0.0 # Install if needed
どの API を使用すればよいですか?
ニーズに合わせて適切な手動トレースのアプローチを選択します。