手動トレース
MLflowの自動トレース では、サポートされているフレームワークの可観測性がすぐに提供されますが、手動トレースでは、生成AI アプリケーションを計測可能にする方法を完全に制御できます。この柔軟性は、詳細なモニタリング機能とデバッグ機能を必要とする本番運用に対応したアプリケーションを構築するために不可欠です。
手動トレースを使用する場合
手動トレースは、次の必要がある場合に最適です。
トレース構造のきめ細かな制御
- コードのどの部分をトレースするかを正確に定義します
- スパンのカスタム階層を作成する
- 境界と関係にまたがる制御
カスタムフレームワークインストルメンテーション
- インストゥルメント独自のフレームワークまたは内部フレームワーク
- カスタム LLM ラッパーにトレースを追加する
- 公式統合前に新しいライブラリをサポート
高度なワークフローシナリオ
- マルチスレッドまたは非同期操作
- カスタム集計による応答のストリーミング
- 複雑なネストされた操作
- カスタム・トレース・メタデータと属性
どの API を使用すればよいですか?
ニーズに合わせて適切な手動トレースのアプローチを選択します。