Pular para o conteúdo principal
Última atualização em

Adicionar um recurso de serviço de modelo do Unity Gateway a um aplicativo do Databricks

info

Visualização

Esse recurso está em Prévia Pública.

Adicione serviços de modelo do Unity Gateway como recursos do Databricks Apps para que seu aplicativo possa enviar solicitações de inferência, incluindo chat, preenchimentos e embeddings, para modelos de AI governados no Unity Catalog. Os serviços de modelo do Unity Gateway incluem modelos de fundação baseados em pagamento por token disponíveis em system.ai, bem como serviços de modelo criados por você.

nota

A atribuição de uso para serviços de modelo do Unity Gateway é precisa apenas para Databricks Apps padrão. Aplicativos em execução em um ambiente de micro VM, como aplicativos do construtor de aplicativos Genie, não relatam atribuição de uso precisa.

Consulte acompanhamento de uso do Unity Gateway.

Requisitos de privilégios​

To access a Unity Gateway model serviço, the app's Service Principal must have the USE CATALOG privilege on the parent catalog, the USE SCHEMA privilege on the parent schema, and the EXECUTE privilege on the model serviço. When you add the model serviço resource, Databricks automatically grants these privileges to the app's Service Principal.

Para que essa concessão automática seja bem-sucedida, uma das seguintes condições deve ser verdadeira para cada privilégio:

  • Para USE CATALOG: ou todos os usuários da account têm o privilégio USE CATALOG no catálogo, ou você tem o privilégio MANAGE no catálogo.
  • Para USE SCHEMA: Todos os usuários de account têm o privilégio USE SCHEMA no esquema ou você tem o privilégio MANAGE no esquema.
  • Para EXECUTE: ou todos os usuários do account têm o privilégio EXECUTE no serviço de modelo, ou você tem o privilégio MANAGE no serviço de modelo.

Consulte Unity Catalog privileges reference.

Adicionar um recurso de serviço de modelo do Unity Gateway​

Antes de adicionar um serviço de modelo Unity Gateway como recurso, analise os pré-requisitos de recurso do aplicativo.

  1. In the App recursos section when you create or edit an app, click + Add resource > Model .

  2. No seletor de recursos, selecione um serviço de modelo na seção Unity Gateway . O seletor também lista Endpoint personalizados em uma seção Serving Endpoint . To connect one of these endpoints, see Add a servindo modelo Endpoint recurso to a Databricks app. To use a pay-per-token foundation model, select a model serviço from the system.ai catalog.

  3. Select the permission level for your app:

    • Pode executar: Concede ao service principal do aplicativo o privilégio EXECUTE para enviar solicitações de inferência para o serviço de modelo. Este é o único nível de permissão disponível para um serviço de modelo.

  4. (Opcional) Especifique uma key de recurso personalizada, que é a forma como você faz referência ao serviço de modelo na configuração do seu aplicativo. A key default é model.

Configure with Databricks ativo Bundles​

Se você definir seu aplicativo usando Pacotes de Automação Declarativa, adicione o serviço de modelo como um recurso uc_securable na configuração do seu pacote:

YAML
resources:
  apps:
    my_app:
      name: 'my-app'
      source_code_path: ./app
      resources:
        - name: 'model'
          uc_securable:
            securable_full_name: '<catalog>.<schema>.<model_service>'
            securable_type: 'MODEL_SERVICE'
            permission: 'EXECUTE'

Para obter informações sobre recursos de aplicativos nos Pacotes de Automação Declarativa, consulte app.resources.

variável de ambiente​

Quando você implanta um aplicativo com um recurso de serviço de modelo do Unity Gateway, o Databricks expõe o nome completo de três partes do Unity Catalog do serviço de modelo por meio de variáveis de ambiente que você pode referenciar usando o campo valueFrom.

Configuração de exemplo:

YAML
env:
  - name: MODEL_SERVICE_NAME
    valueFrom: model # Use your custom resource key if you set one

O campo valueFrom é resolvido para o nome completo de três partes do Unity Catalog do serviço de modelo, por exemplo, system.ai.databricks-dbrx-instruct. Use este nome ao chamar o serviço de modelo por meio do SDK do Databricks ou da API REST do Unity Gateway.

For more informações, see Use variáveis de ambiente to access recursos.

Remover um recurso de serviço de modelo do Unity Gateway​

Quando você remove um recurso de serviço de modelo do Unity Gateway de um aplicativo, o service principal do aplicativo perde o privilégio EXECUTE no serviço de modelo. O serviço de modelo em si permanece inalterado e continua disponível para outros usuários e aplicativos que tenham as permissões apropriadas.

Práticas recomendadas​

Considere o seguinte ao trabalhar com os recursos de serviço de modelo do Unity Gateway:

  • EXECUTE é o único nível de permissão disponível. Isso concede ao aplicativo acesso para enviar solicitações de inferência e não concede privilégios administrativos no serviço de modelo.
  • Para usar modelos de fundação pay-per-token sem configuração adicional, selecione um serviço de modelo do catálogo system.ai.
  • A variável de ambiente resolves to the full three-part Unity Catalog name (catalog.schema.model_service). Use this value when calling the model serviço through the Databricks SDK or REST API.
  • Trate erros de inferência e limites de taxa no código do seu aplicativo. O Unity Gateway aplica os limites de taxa e os guardrails configurados em cada serviço de modelo.
  • The Model recurso picker also lists classic servindo modelo endpoints, grouped under a Serving Endpoints section. Model serviços and serving Endpoint can coexist in the same app.
Nesta página