Converse com LLMs e prototipe aplicativos de AI usando o AI Playground

nota

Esse recurso está em Preview.

Você pode interagir com grandes modelos de linguagem compatíveis com o AI Playground. O AI Playground é um ambiente semelhante a um bate-papo em que você pode testar, solicitar e comparar LLMs.

Requisitos

Seu Databricks workspace deve estar em uma região que ofereça suporte a um dos seguintes recursos:

• Modelo de fundação APIs pay-per-tokens
• Modelo de Fundação APIs provisionamento Taxa de transferência
• Modelos externos

Usar o AI Playground

nota

Se o Playground não estiver disponível em seu workspace, entre em contato com a equipe do Databricks account para obter mais informações.

Para usar o AI Playground:

1. Selecione Playground no painel de navegação esquerdo em AI/ML .

2. Selecione o modelo com o qual deseja interagir usando a lista suspensa no canto superior esquerdo.

3. Você pode fazer qualquer um dos seguintes:

   1. Digite sua pergunta ou prompt.
   2. Selecione uma instrução de IA de amostra entre as listadas na janela.

4. Você pode selecionar + para adicionar um endpoint. Isso permite comparar múltiplas respostas de modelos lado a lado.

Crie protótipos de agentes de AI no AI Playground

Você também pode começar a desenvolver agentes de AI no AI Playground.

Para criar o protótipo de um agente de chamada de ferramentas:

1. No Playground, selecione um modelo com o rótulo Tools enabled (Ferramentas ativadas ).

   

2. Selecione Ferramentas e selecione uma ferramenta para fornecer ao agente. Para este guia, selecione a função integrada do Unity Catalog, system.ai.python_exec. Essa função dá ao seu agente a capacidade de executar código Python arbitrário.

3. Chat para testar a combinação atual de LLM, ferramentas e prompt do sistema e tentar variações.

Exportação e implantado AI Playground agentes

Após prototipar o agente no AI Playground, exporte-o para Notebooks Python para implantá-lo em um Endpoint de servindo modelo.

1. Clique em **Exportar** para gerar o Notebook que define e implanta o agente.

   Após exportar o código do agente, uma pasta com um Notebook Driver é salva em seu Workspace. Este Driver define um Cliente OpenAI de chamada de ferramentas ResponsesAgent, testa o agente localmente, usa registro baseado em código, faz o registro e deixa o agente implantado usando Agentes Personalizados.

2. Resolver todas as tarefas pendentes no Notebook.

nota

O código exportado pode se comportar de forma diferente da sua sessão do AI Playground. Databricks recomenda a execução do Notebook exportado para iterar e depurar mais, avaliar a qualidade do agente e, em seguida, implantar o agente para compartilhar com outras pessoas.