Pular para o conteúdo principal

Converse com LLMs e crie protótipos de aplicativos generativos AI usando AI Playground

nota

Esse recurso está em Preview.

Você pode interagir com grandes modelos de linguagem compatíveis com o AI Playground. O AI Playground é um ambiente semelhante a um bate-papo em que você pode testar, solicitar e comparar LLMs.

Requisitos​

Seu Databricks workspace deve estar em uma região que ofereça suporte a um dos seguintes recursos:

  • Modelo de fundação APIs pay-per-tokens
  • Modelo de Fundação APIs provisionamento Taxa de transferência
  • Modelos externos

Usar o AI Playground​

nota

Se o Playground não estiver disponível em seu workspace, entre em contato com a equipe do Databricks account para obter mais informações.

Para usar o AI Playground:

  1. Selecione Playground no painel de navegação esquerdo em AI/ML .

  2. Selecione o modelo com o qual deseja interagir usando a lista suspensa no canto superior esquerdo.

  3. Você pode fazer qualquer um dos seguintes:

    1. Digite sua pergunta ou prompt.
    2. Selecione uma instrução de IA de amostra entre as listadas na janela.

  4. Você pode selecionar + para adicionar um endpoint. Isso permite comparar múltiplas respostas de modelos lado a lado.

Protótipo de agentes genéticos AI em AI Playground​

O senhor também pode obter a começar building gen AI agents in AI Playground.

Para criar o protótipo de um agente de chamada de ferramentas:

  1. No Playground, selecione um modelo com o rótulo Tools enabled (Ferramentas ativadas ).

    Selecione uma ferramenta - chamando o LLM

  2. Selecione Ferramentas e selecione uma ferramenta para fornecer ao agente. Para este guia, selecione a função integrada do Unity Catalog, system.ai.python_exec. Essa função dá ao seu agente a capacidade de executar código Python arbitrário.

  3. Chat para testar a combinação atual de LLM, ferramentas e prompt do sistema e tentar variações.

Exportação e implantado AI Playground agentes​

Depois de criar o protótipo do agente AI em AI Playground, exporte-o para o notebook Python para implantá-lo em um modelo de serviço endpoint.

  1. Clique em Exportar para gerar o Notebook que define e implanta o agente AI.

    Após exportar o código do agente, uma pasta com um driver Notebook é salva em workspace. Este driver define uma ferramenta de chamada de respostas do cliente OpenAI, testa o agente localmente, utiliza registro baseado em código e implementa o agente AI utilizando a estrutura de agentes Mosaic AI.

  2. Resolver todas as tarefas pendentes no Notebook.

nota

O código exportado pode se comportar de forma diferente da sua sessão do AI Playground. Databricks recomenda a execução do Notebook exportado para iterar e depurar mais, avaliar a qualidade do agente e, em seguida, implantar o agente para compartilhar com outras pessoas.

Última atualização em