Adicionar um recurso endpoint de modelo funcional a um aplicativo Databricks

Adicione o ponto de extremidade do modelo de preenchimento como recurso Databricks Apps para que seu aplicativo possa consultar o modelo do machine learning para inferência. O ponto final do modelo de abastecimento manipula as previsões do modelo e fornece uma interface consistente para acessar modelos de abastecimento.

Adicionar um recurso endpoint de modelo de atividade

Antes de adicionar um endpoint de modelo de posto como um recurso de aplicativo, verifique se você atende aos pré-requisitos.

1. Na seção Recurso do aplicativo , quando você cria ou edita um aplicativo, clique em + Adicionar recurso .

2. Selecione endpointde serviço como o tipo de recurso.

3. Escolha um endpoint do modelo de abastecimento entre os pontos de extremidade disponíveis no seu workspace.

4. Selecione o nível de permissão apropriado para seu aplicativo:

   • Pode view: visualizar metadados endpoint , incluindo nomes de modelos, versões e configuração de carga de trabalho. Não é possível enviar solicitações de inferência.
   • Pode consultar: enviar solicitações de inferência e view metadados. Use isso para a maioria dos aplicativos que precisam de previsões de modelos.
   • Pode gerenciar: Controle administrativo completo, incluindo permissões de view, edição, consulta, exclusão e gerenciamento.

5. (Opcional) Especifique uma key de recurso personalizada, que é como você referencia o endpoint do modelo de abastecimento na configuração do seu aplicativo. A key default é serving-endpoint.

nota

O endpoint do modelo de abastecimento deve estar em um estado READY para processar solicitações de inferência do seu aplicativo.

variável de ambiente

Quando você implementa um aplicativo com um recurso endpoint de modelo de abastecimento, Databricks expõe o nome endpoint de atendimento por meio de uma variável de ambiente que você pode referenciar usando o campo valueFrom .

Por exemplo:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Para mais informações, veja Usar variável de ambiente para acessar recurso.

Remover um recurso endpoint de modelo de atividade

Quando você remove um recurso endpoint de modelo de atividade de um aplicativo, a entidade de serviço do aplicativo perde acesso ao endpoint. O endpoint do modelo de abastecimento em si permanece inalterado e continua disponível para outros usuários e aplicativos que tenham permissões apropriadas.

Melhores práticas

Considere o seguinte ao trabalhar com o modelo de abastecimento endpoint recurso:

• Conceda permissões mínimas. Use Can view para o menor acesso ou Can query para a maioria dos aplicativos que precisam enviar solicitações de inferência, a menos que seu aplicativo precise especificamente executar tarefas administrativas no endpoint.
• Evite consultas demoradas sempre que possível, pois as solicitações de inferência podem expirar.
• Verifique o status do endpoint antes de enviar solicitações. o endpoint deve estar no estado READY para processar consultas.
• Considere limitar a taxa de suas solicitações de inferência para evitar sobrecarregar o endpoint, especialmente durante períodos de alto tráfego.