Otimização do prompt do MLflow (beta)
Beta
Esse recurso está atualmente na versão beta.
MLflowO recurso de otimização de prompts do mlflow.genai.optimize_prompt() permite que o senhor aprimore automaticamente seus prompts usando as abordagens do data-driven.
Essa API integra seus prompts existentes com algoritmos avançados de otimização. Atualmente, a API é compatível com o algoritmo MIPROv2 do DSPy.
Esse poderoso recurso funciona perfeitamente com os recursos de registro, rastreamento e avaliação de prompt do MLflow para aprimorar o desempenho de prompt dos seus aplicativos generativos AI.
Principais benefícios
-
Interface unificada
Acesse métodos avançados de otimização de prompt por meio de uma API padronizada e independente de estrutura. -
Gerenciamento imediato
A integração perfeita com o MLflow Prompt Registry permite o controle de versão, o acompanhamento da linhagem e a reutilização. -
Criação do conjunto de dados
Combinado com o rastreamento MLflow e o recurso de avaliação, permite a criação eficiente do dataset a partir dos rastreamentos de seus aplicativos. -
Avaliação abrangente
Avalie e melhore os prompts usando a infraestrutura de avaliação e os avaliadores personalizados da Databricks.
Visão geral do fluxo de trabalho
O fluxo de trabalho de otimização imediata consiste em quatro etapas principais:
- Trace Collection : colete traços de execução do seu aplicativo GenAI
- Criação de conjunto de dados : Criar conjunto de dados de avaliação a partir dos rastros do site MLflow
- Dados do rótulo : Revisar e refinar o rótulo no dataset
- Prompt Optimization : execução do processo de otimização
Exemplo Notebook
O exemplo demonstra o fluxo de trabalho de ponta a ponta para otimizar seus prompts usando o mlflow.genai.optimize_prompt() API, incluindo coleta de rastreamento, criação do dataset e definição de métricas de avaliação.
Caderno de otimização de prompts
Próximas etapas
Para saber mais sobre a API, consulte Optimize Prompts (Experimental).
Para saber mais sobre rastreamento e avaliação de aplicativos GenAI, consulte os artigos a seguir: