Pular para o conteúdo principal
Última atualização em

Criar e gerenciar serviços de provedor de modelo

info

Beta

Esse recurso está em Beta. Os administradores de account podem gerenciar o acesso a este recurso na página Prévias do console da account. Consulte Gerenciar prévias do Databricks.

Esta página descreve como criar um serviço de provedor de modelo, conceder acesso a ele, configurar recursos do Unity AI Gateway e excluí-lo.

Requisitos​

  • Prévia do Unity AI Gateway ativada para sua account. Consulte Gerenciar prévias do Databricks.
  • CREATE SERVICE no esquema onde você cria o serviço de provedor de modelo, além de USE CATALOG e USE SCHEMA em seu catálogo e esquema.
  • CREATE CONNECTION no mesmo esquema. A criação de um serviço de provedor de modelo com credenciais embutidas as armazena em uma conexão do Unity Catalog, o que exige este privilégio.
  • As credenciais para o provedor externo que você deseja registrar (por exemplo, uma key de API OpenAI ou um par de keys de acesso AWS).

Criar um serviço de provedor de modelo​

Os serviços de provedor de modelos e os serviços de modelos compartilham um único namespace de nome em um esquema do Unity Catalog. Não é possível usar um nome para um serviço de provedor de modelos se um serviço de modelos no esquema já o usa, e vice-versa.

Use a IU​

  1. Siga um destes procedimentos:

    • Na barra lateral do workspace, clique em AI Gateway , depois abra a tab Providers e clique em Create .
    • No Catalog Explorer, vá para o esquema onde você deseja criar o serviço de provedor de modelos e clique em Criar > Serviço > Model provider service .

  2. Insira um nome para o serviço de provedor de modelos e selecione o catálogo e o esquema para criá-lo. Se você começar do Catalog Explorer, o Catalog Explorer preencherá o catálogo e o esquema automaticamente.

  3. Selecione o tipo de provedor e insira os detalhes de conexão e as credenciais do provedor.

  4. Clique em Criar . A Databricks criptografa e armazena as credenciais. A IU não os exibe a partir deste ponto.

Usar a API REST​

Crie um serviço de provedor de modelo com um POST para o endpoint de serviços do provedor de modelo. O parâmetro de consulta parent é o nome do recurso do esquema, e model_provider_service_id é o nome de folha. Forneça a credencial em linha como plaintext. O Databricks o criptografa e não o retorna na leitura.

O exemplo a seguir registra um provedor OpenAI com uma API key embutida.

Bash
curl https://<workspace-url>/api/2.1/unity-catalog/model-provider-services \
  -X POST \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -G \
  --data-urlencode "parent=schemas/main.default" \
  --data-urlencode "model_provider_service_id=openai_prod" \
  --data '{
    "config": {
      "provider_type": "EXTERNAL_MODEL_PROVIDER_TYPE_OPENAI",
      "openai": { "direct": { "api_key": { "plaintext": "sk-..." } } },
      "targets": [
        {
          "model": "gpt-5.5",
          "native_api_types": ["openai/v1/chat/completions", "openai/v1/responses"]
        }
      ]
    },
    "comment": "Production OpenAI provider"
  }'

targets lista os modelos específicos para os quais o serviço de provedor de modelos pode rotear, cada um com os tipos de API nativos do provedor que ele oferece. Para permitir qualquer modelo que o provedor oferece, defina allow_all_targets como true e omita targets.

nota

targets e allow_all_targets restringem apenas solicitações a APIs compatíveis. Eles não se aplicam a outras APIs, que são encaminhadas ao provedor inalteradas quando forward_unmanaged_paths está ativado.

Outros provedores definem um bloco diferente dentro de config e usam o provider_type correspondente. Por exemplo, um provedor Azure OpenAI que autentica com uma entidade de serviço Databricks do Microsoft Entra ID:

Bash
curl https://<workspace-url>/api/2.1/unity-catalog/model-provider-services \
  -X POST \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -G \
  --data-urlencode "parent=schemas/main.default" \
  --data-urlencode "model_provider_service_id=azure_openai_prod" \
  --data '{
    "config": {
      "provider_type": "EXTERNAL_MODEL_PROVIDER_TYPE_AZURE_OPENAI",
      "azure_openai": {
        "direct": {
          "base_url": "https://myresource.openai.azure.com",
          "tenant_id": "<tenant-id>",
          "client_id": "<client-id>",
          "client_secret": { "plaintext": "<client-secret>" }
        }
      },
      "targets": [
        {
          "model": "gpt-5.5",
          "native_api_types": ["openai/v1/chat/completions", "openai/v1/responses"]
        }
      ]
    },
    "comment": "Azure OpenAI provider (Entra ID)"
  }'

Para a lista completa de provedores e seus métodos de autenticação, consulte Serviços de provedor de modelo no Unity Catalog.

Conceder acesso​

Conceda EXECUTE para permitir que um usuário ou grupo consulte o serviço de provedor de modelos. O principal também precisa de USE CATALOG e USE SCHEMA no catálogo e no esquema.

SQL
GRANT USE CATALOG ON CATALOG main TO ai_team;
GRANT USE SCHEMA ON SCHEMA main.default TO ai_team;
GRANT EXECUTE ON MODEL PROVIDER SERVICE main.default.openai_prod TO ai_team;

Para saber mais sobre como controlar o acesso, consulte Descobrir e controlar o acesso a serviços de provedor de modelos.

Configurar recursos​

Como um serviço de provedor de modelos é roteado através do Unity AI Gateway, aplique os mesmos recursos de governança e observabilidade utilizados para outros tráfegos do Unity AI Gateway:

Excluir um serviço de provedor de modelos​

Exclua um serviço de provedor de modelos da UI ou com uma solicitação DELETE para o nome do seu recurso. A exclusão de um serviço de provedor de modelos remove suas credenciais armazenadas.

Bash
curl https://<workspace-url>/api/2.1/unity-catalog/model-provider-services/main.default.openai_prod \
  -X DELETE \
  -H "Authorization: Bearer $DATABRICKS_TOKEN"

Próximos os passos​

Nesta página