Crie e compartilhe uma interface de usuário de bate-papo com o Databricks Apps

Use o Databricks Apps para criar uma UI de bate-papo personalizada para seu agente implantado. Isso permite que o senhor compartilhe seu agente em uma interface que lhe dá controle sobre aspectos como a marca e a forma de exibir a saída do agente.

Se estiver começando a desenvolver seu agente e precisar de uma interface de usuário de chat para testes de pré-produção, use o aplicativo de análise integrada. A abordagem deste artigo destina-se a casos de uso que exigem personalização adicional da interface do usuário, em que a criação de uma interface do usuário de bate-papo personalizada é justificada.

Exemplo de aplicativo de bate-papo

O aplicativo de exemplo está hospedado no GitHub - e2e-chatbot-app. Ele usa o Streamlit para criar um aplicativo que faz o seguinte:

• saída de transmissão : O aplicativo tenta transmitir a saída do agente para ver as respostas em tempo real e volta para a saída sem transmissão, se necessário.
• Chamadas de ferramentas : o aplicativo renderiza chamadas de ferramentas para agentes. O agente deve ser criado usando as práticas recomendadas em Author AI agents in code.
• Feedback : O aplicativo coleta o feedback do usuário sobre as respostas do bate-papo usando a API experimental.

Requisitos

• O senhor deve ter um agente implantado em um endpoint de serviço. Pode ser uma das seguintes opções:

  • Um agente personalizado implantado usando agents.deploy(). Veja implantado um agente para aplicativos generativos AI.
  • Um modelo de fundação ou modelo de serviço externo endpoint com o tipo de tarefa Chat . Consulte Modelos de fundação suportados no Mosaic AI Model Serving.

• Instale o Python 3.11 ou superior para executar e testar o aplicativo localmente.

• Instale o Databricks CLI para implantar o aplicativo em Databricks. Consulte Instalar ou atualizar a CLI da Databricks.

Desenvolver e executar o aplicativo Databricks localmente

Use o aplicativo de exemplo como ponto de partida para sua própria interface de bate-papo. Use as etapas a seguir para executar o aplicativo localmente:

1. Clone o repositório padrão do aplicativo:

   Bash

   git clone https://github.com/databricks/app-templates

2. Instale a biblioteca necessária:

   Bash

   cd e2e-chatbot-app
   pip install -r requirements.txt

3. Para fazer chamadas para o agente endpoint, o senhor deve se autenticar no seu Databricks workspace. Gere tokens de acesso pessoal e salve o valor dos tokens. Consulte Databricks acesso pessoal tokens para usuários de workspace.

4. Configurar a CLI do Databricks:

   Bash

   databricks configure

5. Forneça a url do hostDatabricks para seu workspace: https://hostname.cloud.databricks.com e os tokens de acesso pessoal de antes.

6. Especifique o modelo de serviço endpoint nome e execução do aplicativo. Para encontrar o nome do servindo modelo endpoint, acesse workspace e selecione Serving para ver uma lista de endpoints do servindo modelo:

   Bash

   export SERVING_ENDPOINT=<your-serving-endpoint-name>
   streamlit run app.py

implantado o aplicativo Databricks

Implante o exemplo como um aplicativoDatabricks para compartilhá-lo com outras pessoas.

1. execução databricks app create para criar o aplicativo Databricks. O snippet a seguir pressupõe que SERVING_ENDPOINT ainda esteja definido - se não estiver, substitua-o pelo nome do seu endpoint de atendimento:

   Bash

   databricks apps create --json '{
     "name": "my-agent-chatbot",
     "resources": [
       {
         "name": "serving-endpoint",
         "serving_endpoint": {
           "name": "'"$SERVING_ENDPOINT"'",
           "permission": "CAN_QUERY"
         }
       }
     ]
   }'

2. Faça upload do código-fonte para Databricks e implante o aplicativo executando o seguinte comando no diretório e2e-chatbot-app:

   Bash

   DATABRICKS_USERNAME=$(databricks current-user me | jq -r .userName)
   databricks sync . "/Users/$DATABRICKS_USERNAME/e2e-chatbot-app"
   databricks apps deploy my-agent-chatbot --source-code-path "/Workspace/Users/$DATABRICKS_USERNAME/e2e-chatbot-app"

3. Obtenha o URL do seu aplicativo e teste-o:

   Bash

   databricks apps get my-agent-chatbot | jq -r '.url'

Compartilhe o aplicativo

Depois de testar o aplicativo, o senhor pode conceder permissão a outros usuários para view. Consulte Configurar permissões para seu aplicativo Databricks.

Compartilhe o URL do seu aplicativo com outras pessoas para que elas possam conversar com seu agente e fornecer feedback.