Governança de IA com o Unity Gateway

O Unity Gateway é a solução de governança do Databricks para IA empresarial. Criado com base no Unity Catalog, ele estende a governança além de seus dados e ativos de AI para as interações de Runtime entre modelos, agentes, servidores MCP e ferramentas. Controle quais serviços de IA as equipes podem usar, faça o roteamento e o gerenciamento de tráfego de IA, defina barreiras de proteção com políticas de serviço e monitore o uso a partir de um plano de controle.

O Databricks serve modelos de linguagem grande (LLMs) nativamente por meio das APIs do Foundation Model, para que você obtenha acesso pago por token a modelos como GPT, Claude e Gemini sem infraestrutura para execução. Você também pode conectar provedores de modelo externos e rotear para suas APIs por meio do mesmo controle de acesso e gerenciamento de tráfego.

Começar

Configure e aplique a governança de AI em todos os seus ativos de AI, tráfego e comportamento de serviço.

• • Tutorial: controlar o acesso ao modelo de um agente de codificação com o Unity Gateway
  • Roteie um agente de codificação externo por meio de serviços de modelo governados, depois controle quem pode acessar os modelos e limite o consumo e os gastos do agente.
• • Tutorial: Controlar o acesso do GitHub MCP de um agente de codificação
  • Restrinja o acesso de um agente de codificação às ferramentas MCP do GitHub usando permissões do Unity Catalog e uma política de serviço integrada.
• • Gerencie modelos e MCPs com políticas GRANT
  • Gerencie o acesso a modelos, serviços de modelo, serviços de provedor de modelos e serviços MCP no system.ai com tags governadas personalizadas ou fornecidas pelo sistema.
• • Tutorial: adicionar barreiras de proteção de política de serviço a um serviço de modelo
  • Implemente barreiras de proteção em um serviço de modelo usando políticas de serviço integradas e personalizadas.
• • Tutorial: rastrear gastos com modelos básicos por usuário, equipe ou projeto
  • Identifique os drivers de gastos com LLM atribuindo custos a usuários, equipes ou projetos com tags de serviço e tags de solicitação.

Controlar o acesso aos serviços de AI

Registre ativos de IA como objetos securitizáveis do Unity Catalog e, em seguida, conceda e revogue o acesso com os mesmos privilégios que você usa para tabelas e volumes. Os agentes são governados por meio desses mesmos ativos securáveis: um agente é registrado como um modelo do Unity Catalog, e as ferramentas que ele chama são governadas como serviços MCP, funções e conexões.

• • Model services
  • Faça query em modelos básicos servidos nativamente no system.ai sem configuração e gerencie o acesso por meio de privilégios do Unity Catalog.
• • Provedores de modelos externos
  • Conecte provedores como OpenAI e Anthropic com a opção de trazer sua própria key (BYOK) e governe-os por meio de um único ponto de controle.
• • Modelos
  • Governe modelos registrados, incluindo modelos de base servidos pelo Databricks, com privilégios do Unity Catalog.
• • Permissões de modelo básico
  • Restrinja quais modelos básicos disponibilizados pelo Databricks sua organização pode acessar, em toda a account ou por grupo.
• • Ferramentas MCP
  • Governar servidores MCP registrados como objetos protegidos do Unity Catalog, com filtragem de ferramentas e políticas de serviço.
• • Ferramentas personalizadas
  • Governe as funções do Unity Catalog que os agentes usam como ferramentas, com os mesmos privilégios que você usa para dados.
• • Conexões HTTP
  • Governe as conexões do Unity Catalog usadas para acessar APIs externas e servidores MCP.
• • Criar serviços de modelos personalizados
  • Opcional: adicione seus próprios Endpoint governados quando precisar de modelos além dos default system.ai prontos para uso.

Roteie e gerenciar o tráfego de AI

O Unity Gateway roteia solicitações para seus serviços de modelo e MCP a partir de um plano de controle central, para que você possa gerenciar a capacidade, a disponibilidade e os gastos entre os provedores.

• • Aplicar limites de taxa
  • Aplique limites de consumo em serviços de modelo e serviços MCP para gerenciar capacidade e custo.
• • Configure a divisão de tráfego e fallbacks.
  • Distribua solicitações entre vários destinos de modelo e adicione failover para aumentar a disponibilidade.
• • Roteie tarefas de codificação com o Smart Routing
  • Selecione automaticamente o melhor modelo e harness para cada tarefa de codificação para controlar os gastos com IA sem sacrificar a qualidade.
• • Gerenciar orçamentos
  • Monitore gastos e defina limites por usuário e limites máximos.

Defina limites de segurança e políticas de acesso

As políticas de serviço são os mecanismos usados para implementar barreiras para serviços de AI. Elas controlam como cada solicitação e resposta prossegue, com base em seu conteúdo e em quem está fazendo a chamada.

• • Políticas de serviço para recursos protegíveis de IA
  • Como as políticas de serviço governam o conteúdo de solicitações e respostas para serviços de AI, usando políticas integradas, personalizadas e externas.
• • Criar e anexar uma política de serviço
  • Como escrever uma função de política de serviço e anexá-la a um serviço MCP ou serviço de modelo.
• • Aplicar um guardrail de parceiro com uma política de serviço externa
  • Como aplicar as decisões de um fornecedor terceirizado de guardrails em serviços de modelo e MCP com uma política de serviço externo.

Monitorar uso, custo e risco

Monitore a atividade, os gastos e os resultados em todos os serviços do Unity Gateway.

• • Visão geral da observabilidade
  • Escolha a ferramenta certa para monitorar o uso, o custo, o desempenho e a atividade de AI em todos os serviços.
• • Monitore o uso
  • Rastreie solicitações, uso de tokens e latência no Unity Gateway usando tabelas do sistema.
• • Analisar custo
  • Atribua o custo do Databricks a serviços, modelos de destino, entidades de serviço e tags.
• • Audite as solicitações e respostas
  • Faça o log de solicitações e respostas em tabelas Delta do Unity Catalog para monitoramento e depuração.