Converse com LLMs e crie protótipos de aplicativos generativos AI usando AI Playground
Esse recurso está em Preview.
Você pode interagir com grandes modelos de linguagem compatíveis com o AI Playground. O AI Playground é um ambiente semelhante a um bate-papo em que você pode testar, solicitar e comparar LLMs.
Requisitos
Seu Databricks workspace deve estar em uma região que ofereça suporte a um dos seguintes recursos:
- Modelo de fundação APIs pay-per-tokens
- Modelo de Fundação APIs provisionamento Taxa de transferência
- Modelos externos
Usar o AI Playground
Se o Playground não estiver disponível em seu workspace, entre em contato com a equipe do Databricks account para obter mais informações.
Para usar o AI Playground:
-
Selecione Playground no painel de navegação esquerdo em Machine Learning .
-
Selecione o modelo com o qual deseja interagir usando a lista suspensa no canto superior esquerdo.
-
Você pode fazer qualquer um dos seguintes:
- Digite sua pergunta ou prompt.
- Selecione uma instrução de IA de amostra entre as listadas na janela.
-
Você pode selecionar + para adicionar um endpoint. Isso permite comparar múltiplas respostas de modelos lado a lado.
Protótipo de agentes genéticos AI em AI Playground
O senhor também pode obter a começar building gen AI agents in AI Playground.
Para criar o protótipo de um agente de chamada de ferramentas:
-
No Playground, selecione um modelo com o rótulo Tools enabled (Ferramentas ativadas ).
-
Selecione Ferramentas e selecione uma ferramenta para fornecer ao agente. Para este guia, selecione a função integrada do Unity Catalog,
system.ai.python_exec
. Essa função dá ao seu agente a capacidade de executar código Python arbitrário. -
Chat para testar a combinação atual de LLM, ferramentas e prompt do sistema e tentar variações.
Exportação e implantado AI Playground agentes
Depois de criar o protótipo do agente AI em AI Playground, exporte-o para o notebook Python para implantá-lo em um modelo de serviço endpoint.
-
Clique em Exportar para gerar o Notebook que define e implanta o agente AI.
Depois de exportar o código do agente, uma pasta com um Notebook do driver é salva no site workspace. Esse driver define uma ferramenta chamada LangGraph ChatAgent, testa o agente localmente, usa logging baseado em código, registra e implanta o agente AI usando o Mosaic AI Agent Framework.
-
Resolver todas as tarefas pendentes no Notebook.
O código exportado pode se comportar de forma diferente da sua sessão do AI Playground. Databricks recomenda a execução do Notebook exportado para iterar e depurar mais, avaliar a qualidade do agente e, em seguida, implantar o agente para compartilhar com outras pessoas.