Use o AI Builder: Knowledge Assistant para criar um chatbot de alta qualidade em seus documentos

info

Beta

Esse recurso está na versão beta.

Esta página descreve como usar o AI Builder: Knowledge Assistant para criar um chatbot de perguntas e respostas sobre seus documentos e melhorar sua qualidade com base no feedback de linguagem natural de seus especialistas no assunto.

AI O Builder oferece uma abordagem simples e sem código para criar e otimizar sistemas de agentes AI de alta qualidade e específicos do domínio para casos de uso comuns do AI.

O que é o AI Builder: Knowledge Assistant?

Use o AI Builder: Knowledge Assistant para criar um chatbot com o qual o senhor pode fazer perguntas sobre seus documentos e receber respostas de alta qualidade com citações. O Knowledge Assistant usa o site AI avançado e segue uma abordagem de geração aumentada por recuperação (RAG) para fornecer respostas precisas e confiáveis com base no conhecimento especializado no domínio que o senhor fornece.

O Knowledge Assistant é ideal para dar suporte aos seguintes casos de uso:

• Responda às perguntas dos usuários com base na documentação do produto.
• Responda às perguntas dos funcionários relacionadas às políticas de RH.
• Responda às perguntas dos clientes com base nas bases de conhecimento de suporte.

O Assistente de Conhecimento permite que você melhore a qualidade do agente de bate-papo e ajuste seu comportamento com base no feedback em linguagem natural de seus especialistas no assunto. Forneça perguntas para uma sessão de rótulo e envie-a para especialistas revisarem no aplicativo Review. Suas respostas fornecem dados de rótulo que ajudam a otimizar o desempenho do agente.

AI Criador: O Knowledge Assistant cria um agente RAG de ponta a ponta endpoint que o senhor pode usar posteriormente em seus aplicativos. Por exemplo, a imagem abaixo mostra como o senhor pode interagir com o endpoint conversando com ele no AI Playground. Faça perguntas ao agente relacionadas aos seus documentos e o agente responderá com citações.

Requisitos

• sem suporte de servidor workspace que inclui o seguinte:

  • Unity Catalog habilitado em seu site workspace.
  • parceiros-powered AI recurso assistivo ativado em seu workspace.
  • Um workspace em uma das regiões compatíveis: us-east-1 ou us-west-2.
  • Acesso ao Mosaic AI Model Serving.
  • Acesso a modelos básicos no Unity Catalog por meio do esquema system.ai.
  • Acesso a uma política orçamentáriaserverless com um orçamento diferente de zero.

• Você deve ter os dados de entrada prontos para uso. Você pode optar por fornecer:

  • Arquivos em um volume ou diretório de volume do Unity Catalog. Os tipos de arquivo suportados são txt, pdf, md, ppt/pptx e doc/docx.
  • Um índice de busca por vetores.

Crie um agente do Knowledge Assistant

Acesse AI Builder no painel de navegação esquerdo do site workspace e clique em Knowledge Assistant.

Etapa 1: configurar seu agente

Em Configure (Configurar ) tab, configure seu agente e forneça fontes de conhecimento que ele usará para responder às perguntas.

1. No campo Nome , insira um nome para seu agente.

2. No campo Descrição , descreva o que seu agente pode fazer.

3. No campo Schema (Esquema ), selecione o catálogo e o esquema Unity Catalog para salvar o conjunto de dados de avaliação.

4. No painel Fonte de conhecimento , adicione sua fonte de conhecimento. O senhor pode optar por fornecer arquivos do Unity Catalog ou um índice de pesquisa de vetores.

   tab :::tab-item[UC Files] Para arquivos UC, há suporte para os seguintes tipos de arquivo: txt, pdf, md, ppt/pptx e doc/docx. A Databricks recomenda o uso de arquivos com menos de 32 MB.

   

   1. Em Tipo , selecione Arquivos UC .
   2. No campo Source (Origem ), selecione o volume ou diretório do volume do Unity Catalog que contém seus arquivos.
   3. No campo Nome , insira um nome para sua fonte de conhecimento.
   4. Em Descrever o conteúdo , descreva qual conteúdo a fonte de conhecimento contém para ajudar o agente a entender quando usar essa fonte de dados. :::

   :::tab-item[Índice de pesquisa vetorial]

   1. Em Tipo , selecione Índice de pesquisa vetorial .
   2. No campo Fonte , selecione o índice de pesquisa vetorial que você deseja fornecer ao agente.
   3. Na coluna Doc URI , selecione a coluna com um link ou referência de onde a informação veio. O agente usará isso em suas citações.
   4. No campo Coluna de texto , especifique a coluna que contém o texto bruto que você deseja que o agente recupere.
   5. No campo Nome , insira um nome para sua fonte de conhecimento.
   6. Em Descrever o conteúdo , descreva qual conteúdo a fonte de conhecimento contém para ajudar o agente a entender quando usar essa fonte de dados. ::: ::::

5. (Opcional) Se você quiser adicionar mais fontes de conhecimento, clique em Adicionar fonte de conhecimento . Você pode fornecer até 10 fontes de conhecimento.

6. (Opcional) No campo Instruções , especifique as diretrizes de como o agente deve responder.

   

7. Clique em Criar agente .

Pode levar algumas horas para criar seu agente e sincronizar as fontes de conhecimento que você forneceu. O painel do lado direito será atualizado com links para o agente implantado, o experimento e as fontes de conhecimento sincronizadas.

Etapa 2: teste seu agente

Depois que o agente terminar de ser construído, o senhor pode testá-lo no AI Playground. O agente deve responder com citações para perguntas relacionadas às suas fontes de conhecimento.

1. Em Deployed agent (Agente implantado ), no painel do lado direito, clique em Try in Playground (Testar no Playground ). Isso abre o AI Playground com seu endpoint de agente conectado. Aqui, você pode conversar com seu agente e analisar suas respostas.

   

2. Se o senhor tiver o recurso de assistência AI ativado, poderá ativar o AI Judge e a geração de perguntas sintéticas para ajudá-lo a avaliar seu agente.

3. Insira uma pergunta para seu agente.

4. Avalie sua resposta:

   

   1. Clique em visualizar pensamentos para ver como seu agente abordou a resposta à pergunta.
   2. Clique na caixa em Fontes para ver quais arquivos o agente está citando. Isso abre o arquivo em um painel lateral para você revisar.
   3. O AI Judge pode ajudar a avaliar rapidamente a resposta quanto à fundamentação, segurança e relevância.
   4. Analise as perguntas sugeridas para ver outras perguntas a serem feitas ao seu agente.

Se o senhor estiver satisfeito com o desempenho do seu agente, continue usando-o como está.

Etapa 3: melhorar a qualidade

AI Criador: O Knowledge Assistant pode ajustar o comportamento do agente com base no feedback de linguagem natural. Obtenha feedback humano por meio de uma sessão de rótulo para melhorar a qualidade do seu agente. A coleta de dados de rótulo para seu agente pode melhorar sua qualidade. O AI Builder treinará novamente e otimizará o agente com base nos novos dados.

Na seção Melhorar a qualidade tab, adicione perguntas e comece a sessão de rótulo.

1. Adicione perguntas para incluir em sua sessão de rótulo:

   1. Clique em + Adicionar para adicionar uma pergunta.
   2. No modal Adicionar uma pergunta , insira sua pergunta.
   3. Clique em Adicionar . A pergunta deve aparecer na interface do usuário.
   4. Repita até adicionar todas as perguntas que você deseja avaliar.
   5. Para excluir uma pergunta, clique no menu kebab e depois em Excluir.

   Databricks recomenda acrescentar pelo menos 20 perguntas em uma sessão de rótulo para garantir que sejam coletados dados suficientes sobre o rótulo.

   

2. Depois que o senhor terminar de adicionar suas perguntas, envie-as para especialistas para que as analisem e o ajudem a criar um rótulo de alta qualidade dataset. À direita, clique em começar rótulo session .

   Quando sua sessão de rótulo estiver pronta, a interface do usuário será atualizada conforme mostrado abaixo.

   

3. Compartilhe o aplicativo de avaliação com especialistas para obter feedback.

   Para saber mais sobre sessões de rótulo e o aplicativo de revisão, consulte Use o aplicativo de revisão para revisões humanas de um aplicativo gen AI.

nota

Para que os especialistas acessem a sessão de rótulo, o senhor precisa conceder a eles as seguintes permissões:

• CAN QUERY permissão para o endpoint

• Permissão de edição para o experimento

• Permissões USE CATALOG, USE SCHEMA e SELECT para o esquema

4. Para rotular os dados por conta própria, clique em Open rótulo session (Abrir sessão de rótulo ).

   Isso abre o aplicativo de avaliação em um novo tab. Como revisor:

   1. Clique em começar review . Para cada pergunta, o revisor verá a pergunta e a resposta do agente.

   2. No lado esquerdo, revise a pergunta e a resposta. O senhor pode clicar em visualizar pensamentos para ver como o agente está pensando sobre a pergunta.

   3. No lado direito, em Expectativas , revise todas as diretrizes existentes e adicione mais conforme achar necessário.

      1. Para adicionar uma diretriz, clique em + Adicionar entrada .
      2. Insira a diretriz na caixa de texto exibida.
      3. Clique em Salvar .

   4. Em Feedback , insira seu feedback e clique em Salvar .

   5. Quando terminar de revisar uma pergunta, clique em Próxima > não revisada no canto superior direito para passar para a próxima.

   6. Quando terminar de revisar todas as perguntas, basta sair do aplicativo de avaliação.

      

5. Quando os avaliadores terminarem as sessões de rótulo, retorne à seção Melhorar a qualidade do seu agente tab.

6. Clique em merge para merge feedback dos especialistas para seu rótulo dataset. A tabela de perguntas no lado direito será atualizada com o feedback da mesclagem.

   

7. Revise os registros de feedback.

8. Teste o agente novamente no AI Playground para ver o desempenho aprimorado. Se necessário, comece outra sessão de rótulo para coletar mais dados de rótulo.

Limitações

• A Databricks recomenda o uso de arquivos menores que 32 MB para seus documentos de origem.
• que usam o PrivateLink, incluindo o armazenamento por trás do PrivateLink, não são suportados.
• Não há suporte para as tabelas do Unity Catalog.