Pular para o conteúdo principal

Conceitos do Unity Gateway

Unity Gateway brings registration, discovery, and access to AI models and tools into one place. Control who can use them, monitor usage, and gerenciar cost across applications and agents.

O Unity Gateway usa esses conceitos para gerenciar modelos, provedores de modelos, ferramentas, habilidades e proteções implementadas com políticas de serviço:

Conceito

What it does

Exemplo

Modelo

Um LLM ou modelo de incorporação. Um modelo registrado precisa de um serviço de modelo para atender a solicitações.

gpt-astra-6.

Serviço de modelo

Um endpoint que traduz e roteia solicitações de inferência para um ou mais modelos, com divisão de tráfego e fallbacks. Suporta solicitações em tempo real, além de inferência de lotes.

frontier-model: GPT Astra 6 no Databricks, com Claude Opus 5 como fallback.

opus-5: Opus 5 fornecido pelo Databricks, com o AWS Bedrock como fallback.

Provedor de modelo

A conexão que roteia solicitações para um provedor de modelo externo usando credenciais gerenciadas centralmente.

anthropic-prod: Uma conexão com a Anthropic.

MCP

Uma interface para os agentes descobrirem e chamarem ferramentas por meio do Model Context Protocol (MCP).

support-tools: Ferramentas para Slack e Jira.

Habilidade

Instruções reutilizáveis e arquivos que um agente carrega para orientar seu trabalho.

customer-support: um manual de suporte.

Service policy

Implementa barreiras de segurança que verificam solicitações e respostas para serviços de IA.

A política detect_sensitive_data integrada detecta tipos configurados de dados confidenciais, como números de cartão de crédito, em solicitações e respostas de modelos. Ele bloqueia ou redige correspondências.

Conceito

What it does

Exemplo

Modelo

Um LLM ou modelo de incorporação. Um modelo registrado precisa de um serviço de modelo para atender a solicitações.

gpt-astra-6.

Serviço de modelo

Um endpoint que traduz e roteia solicitações de inferência para um ou mais modelos, com divisão de tráfego e fallbacks. Suporta solicitações em tempo real, além de inferência de lotes.

frontier-model: GPT Astra 6 no Databricks, com Claude Opus 5 como fallback.

opus-5: Opus 5 fornecido pelo Databricks, com o AWS Bedrock como fallback.

Provedor de modelo

A conexão que roteia solicitações para um provedor de modelo externo usando credenciais gerenciadas centralmente.

anthropic-prod: Uma conexão com a Anthropic.

MCP

Uma interface para os agentes descobrirem e chamarem ferramentas por meio do Model Context Protocol (MCP).

support-tools: Ferramentas para Slack e Jira.

Habilidade

Instruções reutilizáveis e arquivos que um agente carrega para orientar seu trabalho.

customer-support: um manual de suporte.

Service policy

Implementa barreiras de segurança que verificam solicitações e respostas para serviços de IA.

A política detect_sensitive_data integrada detecta tipos configurados de dados confidenciais, como números de cartão de crédito, em solicitações e respostas de modelos. Ele bloqueia ou redige correspondências.

Como as peças se encaixam​

Chame um serviço de modelo para alcançar gpt-astra-6 no Databricks, com o mesmo modelo disponível por meio de aws-bedrock como fallback. Você pode alterar modelos ou fallback sem alterar o nome que seu aplicativo chama. Anexe a política de serviço de detecção de dados confidenciais integrada ao serviço de modelo para verificar solicitações e respostas em busca de categorias de dados confidenciais configuradas.

O agente codex carrega a habilidade de suporte ao cliente e chama um serviço de modelo protegido pela política de serviço detect_sensitive_data, que verifica solicitações e respostas do modelo. O serviço de modelo faz o roteamento para gpt-astra-6 no Databricks ou retorna ao mesmo modelo por meio do provedor de modelo aws-bedrock. O agente também acessa o Slack e o Jira por meio do MCP.

Chamar modelos e ferramentas​

Replace <workspace-url> and the illustrative names with your own. See the quickstart to set DATABRICKS_TOKEN.

Os serviços de modelo oferecem suporte a APIs unificadas, como OpenAI-compatible Chat Completions e APIs nativas do provedor, como Anthropic Messages para modelos compatíveis.

Chame frontier-model com a API de Conclusão do Chat unificada. O serviço escolhe o modelo:

Bash
curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "production.ai.frontier-model",
"max_tokens": 256,
"messages": [{"role": "user", "content": "Hello!"}]
}'

Consulte Consultar modelos básicos e de incorporação para ver exemplos de SDK e outras APIs.

Unity Catalog e controle de acesso​

O Unity Gateway integra-se ao Unity Catalog para controlar quem cria serviços, integra provedores de modelo, chama-os ou compartilha o acesso. O Unity Catalog também rege modelos registrados, habilidades e quem pode anexar políticas de serviço.

Objetos protegíveis do Unity Catalog​

Modelos, serviços de modelo, provedores de modelo, MCPs e habilidades são itens protegíveis do Unity Catalog: objetos nos quais você pode conceder permissões. Seus nomes seguem catalog.schema.name, como production.ai.frontier-model. Os serviços de modelo fornecidos pela Databricks são registrados em system.ai.

Um provedor de modelo é registrado como um serviço de provedor de modelo no Unity Catalog. As políticas de serviço são anexadas a serviços e não são itens protegíveis independentes.

No Unity Catalog, um modelo é um ativo em repouso: versões, metadados e artefatos. Registrá-lo não o torna chamável. Para modelos externos, registre a conexão do provedor de modelos em vez do modelo.

Permissões de key​

Conceda permissões a usuários, grupos ou service principals. Para serviços de modelo, provedores de modelo e MCPs, as principais permissões separam o uso da administração:

Privilégio

O que ele permite

EXECUTE

Chame um serviço de modelo, um provedor de modelo ou um MCP.

CREATE SERVICE

Crie serviços e integre provedores de modelo em um esquema.

READ METADATA

Inspecionar configuração.

MANAGE

Alterar a configuração e conceder acesso a outras pessoas.

Privilégio

O que ele permite

EXECUTE

Chame um serviço de modelo, um provedor de modelo ou um MCP.

CREATE SERVICE

Crie serviços e integre provedores de modelo em um esquema.

READ METADATA

Inspecionar configuração.

MANAGE

Alterar a configuração e conceder acesso a outras pessoas.

Os chamadores também precisam de USE CATALOG e USE SCHEMA no catálogo e no esquema pai. As políticas de serviço restringem chamadas autorizadas. Elas não concedem acesso. Consulte a página de cada conceito para ver todos os requisitos de permissão.

Introdução​

Começar com um serviço de modelo pronto para uso de system.ai, ou conectar seu agente de codificação: