implementei uma aplicação RAG para produção

Visualização

Este recurso está na visualização privada. Para experimentar, entre em contato com seu contato do Databricks.

Procurando um documento RAG Studio diferente? Vá para o índice de documentação RAG

O RAG Studio inclui vários ambientes para ajudá-lo a gerenciar o ciclo de vida do seu aplicativo. Até agora, esses tutoriais funcionaram no desenvolvimento do RAG Studio e nos revisores Environment.

Neste tutorial, você implantará uma versão do seu aplicativo no ambiente End Users . Leia Ambientes para obter mais detalhes sobre como e por que os ambientes funcionam.

  1. Se você ainda não executou este comando em Inicializar um aplicativo RAG, execute o comando a seguir para inicializar esses Environments. Este comando leva cerca de 10 minutos para ser executado.

    ./rag setup-prod-env
    

    Observação

    Consulte Unity Catalog ativo criado pelo RAG Studio para obter detalhes sobre o que é criado em seu workspace e esquema Unity Catalog .

  2. execute o seguinte comando para implantar a versão para os Usuários Finais Environment. Este comando leva cerca de 10 minutos para ser executado.

    ./rag deploy-chain -v 1 -e end_users
    
  3. No console, você verá uma saída semelhante à abaixo. Abra o URL em seu navegador para abrir o 💬 Review UI. Você pode compartilhar este URL com seu 🧠 Expert Users.

    ...truncated for clarity of docs...
    =======
    Task deploy_chain_task:
    Your Review UI is now available. Open the Review UI here: https://<workspace-url>/ml/review/model/catalog.schema.rag_studio_databricks-docs-bot/version/1/environment/end_users
    
  4. Se você quiser que 👤 End Users use o 💬 Review UI, adicione permissões à versão implantada.

    • Dê ao usuário do Databricks ao qual você deseja conceder acesso read permissões

      • o experimento MLflow

      • o modelo endpoint

      • o modelo Unity Catalog

    Dica

    🚧 roteiro 🚧 Suporte para adicionar qualquer SSO corporativo para acessar o 💬 Review UI por exemplo, sem requisitos para uma account Databricks .

  5. Agora, toda vez que um 👤 End Users conversar com seu aplicativo RAG, 🗂️ Request Log e 👍 Assessment & Evaluation Results Log serão preenchidos.

Fluxo de dados

lenda