カスタム トレース ビューを構築する
この機能はベータ版です。
カスタムトレースビューは、Databricks MLflowトレースエクスプローラーにおけるパーソナライズされたLayoutです。defaultのtabsの代わりに、レビューワークフローにとって最も重要なトレースフィールド、メトリクス、フィードバックコントロールが表示されます。
カスタムビューはAI支援型です。希望するLayoutを自然言語で記述すると、Genieがそれを生成します。コーディングは不要です。各ビューはトレースに依存しないTemplateであり、エクスペリメント内のすべてのトレースに自動的に再バインドされるため、一度Layoutを作成すれば、すべてのトレースで再利用できます。
カスタムビューは、次のような場合に役立ちます。
- スパンツリー全体をスキャンするのではなく、少数の高シグナルフィールドを表示して集中的にレビューします。
- エクスペリメントで作業するすべてのレビュアーに同じ Layout を提示します。
- インタラクティブなフィードバックコントロールを追加して、レビュー担当者がトレースを読みながら直接スコアを付けられるようにします。
カスタムビューの作成
- [Traces] tabからトレースを開きます。トレースの検索と表示の詳細については、「Databricks MLflow UI でトレースを表示する」を参照してください。
- トレースエクスプローラーで Custom view tab を選択します。
- テキストボックスに、希望するLayoutを自然言語で記述してください。例えば、表示するトレースフィールド、要約するメトリクス、含めるフィードバックコントロールなどを記述します。
- Build with Genie をクリックします。Genieは、記述内容からLayoutを生成します。調整するには、 Edit with Genie をクリックし、変更したい内容を記述してください。
- 保存 をクリックします。MLflowは保存されたビューをエクスペリメントと共に保存し、そのエクスペリメント内のすべてのトレースで利用可能になります。
ビューを追加作成するには、ビュー切り替えツールを開き、「 ビューの作成 」を選択します。
コンポーネントを表示
When you describe a Layout, Genie assembles it from a set of display components:
- Stat card : レイテンシ、トークン数、コンピュートされたスコアなどの単一のメトリクスまたは値を表示します。
- Assessment board :フィードバックや評価結果など、トレースに対してログ記録されたアセスメントを表示します。
- キーと値のビューアー : トレースの構造化フィールドをキーと値のペアとして表示します。
- Layout primitives :コンポーネントを行、列、セクションに配置します。
フィードバックコントロールを追加
カスタムビューに対話型コントロールを追加することで、レビュー担当者がLayout上で直接トレースを評価し、コメントできるようにすることができます。使用可能なコントロールは次のとおりです。
- 迅速な承認または拒否のための高評価および低評価ボタン。
- セットから 1 つのオプションを選択するためのラジオグループ。
- 自由形式のコメントまたは根拠のためのテキスト入力。
MLflow はこのフィードバックを評価としてトレースに記録するため、他の評価と並んで表示され、評価およびモニタリングに使用できるようになります。
保存されたビューの管理
ビューはエクスペリメントレベルで共有されるため、エクスペリメントを表示する権限を持つユーザーは全員、同じカスタムビューセットを参照できます。MLflow は、ビューをエクスペリメントのタグとして保存します。
トレース エクスプローラーから、次の操作が可能です:
- ビューの切り替え
- ビューの名前を変更する
- ビューの削除
ビューはトレースに依存しないTemplateであるため、ビューを切り替えてもLayoutのみが変更されます。基盤となるトレースデータは同じままであり、選択されたビューは次に開くトレースに再バインドされます。
権限
カスタムビューへのアクセスは、エクスペリメントの権限に従います:
CAN EDITまたはCAN MANAGE: カスタムビューの作成、名前変更、削除を行います。CAN READ:保存されたビューを表示および切り替えますが、作成、名前変更、削除はできません。
制限事項
- 各エクスペリメントには、最大50個の保存済みビューを格納できます。
- 各ビューには約20,000 UTF-8 バイトの制限があります。より大きなビューは、制限内に収まるように圧縮されます。
- 保存された定義が破損しているビューは、再構築されるまでプレースホルダーとして表示されます。
その他のリソース
- Databricks MLflow UI でトレースを表示する - トレースエクスプローラーでトレースを探索、検索、デバッグします
- ユーザー フィードバックの収集 - トレースに関する人間のフィードバックをキャプチャして Logs に記録します
- エージェントの評価とモニタリング - トレースの品質を体系的に評価する