メインコンテンツまでスキップ

評価実行

評価実行は、GenAI アプリの評価結果を整理して保存する MLflow 実行です。評価実行には次の内容が含まれます。

  • トレース : 評価データセット内の入力ごとに 1 つのトレース。
  • フィードバック : 各トレースにスコアラーからの品質評価が添付されます。
  • メトリクス : 評価されたすべての例の統計を集計します。
  • メタデータ : 評価構成に関する情報。

評価実行の作成方法

mlflow.genai.evaluate()を呼び出すと、評価実行が自動的に作成されます。mlflow.genai.evaluate()詳細については、 MLflowソース コードドキュメントを参照してください。

Python
import mlflow

# This creates an evaluation run
results = mlflow.genai.evaluate(
data=test_dataset,
predict_fn=my_app,
scorers=[correctness_scorer, safety_scorer],
experiment_name="my_app_evaluations"
)

# Access the run ID
print(f"Evaluation run ID: {results.run_id}")

評価実行構造

Evaluation Run
├── Run Info
│ ├── run_id: unique identifier
│ ├── experiment_id: which experiment it belongs to
│ ├── start_time: when evaluation began
│ └── status: success/failed
├── Traces (one per dataset row)
│ ├── Trace 1
│ │ ├── inputs: {"question": "What is MLflow?"}
│ │ ├── outputs: {"response": "MLflow is..."}
│ │ └── feedbacks: [correctness: 0.8, relevance: 1.0]
│ ├── Trace 2
│ └── ...
├── Aggregate Metrics
│ ├── correctness_mean: 0.85
│ ├── relevance_mean: 0.92
│ └── safety_pass_rate: 1.0
└── Parameters
├── model_version: "v2.1"
├── dataset_name: "qa_test_v1"
└── scorers: ["correctness", "relevance", "safety"]