Governança de AI com Unity AI Gateway

O Unity AI Gateway é a solução de governança da Databricks para AI corporativa. Construído sobre o Unity Catalog, ele estende a governança além de seus ativos de dados e AI para as interações de tempo de execução entre modelos, agentes, servidores MCP e ferramentas. Controle quais serviços de AI as equipes podem usar, rotear e gerenciar o tráfego de AI, definir guardrails e monitorar o uso a partir de um plano de controle.

O Databricks serve modelos de linguagem grande (LLMs) nativamente por meio das APIs do Foundation Model, para que você obtenha acesso pago por token a modelos como GPT, Claude e Gemini sem infraestrutura para execução. Você também pode conectar provedores de modelo externos e rotear para suas APIs por meio do mesmo controle de acesso e gerenciamento de tráfego.

Começar

Configure e aplique a governança de AI em todos os seus ativos de AI, tráfego e comportamento de serviço.

• • Guia de governança de AI
  • Um caminho de ponta a ponta para os administradores governarem o acesso a ativos de AI, tráfego e custo, e ao conteúdo de solicitações e respostas.
• • Tutorial: Governe o acesso MCP do GitHub de um agente de codificação
  • Restrinja o acesso de um agente de codificação às ferramentas MCP do GitHub usando permissões do Unity Catalog e uma política de serviço integrada.
• • Tutorial: Implementar barreiras de segurança em um serviço de modelo com políticas de serviço
  • Implemente barreiras de proteção em um serviço de modelo usando políticas de serviço integradas e personalizadas.
• • Tutorial: rastrear gastos com modelos básicos por usuário, equipe ou projeto
  • Identifique os drivers de gastos com LLM atribuindo custos a usuários, equipes ou projetos com tags de serviço e tags de solicitação.

Controlar o acesso aos serviços de AI

Registre ativos de IA como objetos securitizáveis do Unity Catalog e, em seguida, conceda e revogue o acesso com os mesmos privilégios que você usa para tabelas e volumes. Os agentes são governados por meio desses mesmos ativos securáveis: um agente é registrado como um modelo do Unity Catalog, e as ferramentas que ele chama são governadas como serviços MCP, funções e conexões.

• • APIs de modelo
  • Faça query em modelos básicos servidos nativamente no system.ai sem configuração e gerencie o acesso por meio de privilégios do Unity Catalog.
• • Provedores de modelos externos
  • Conecte provedores como OpenAI e Anthropic com a opção de trazer sua própria key (BYOK) e governe-os por meio de um único ponto de controle.
• • Modelos
  • Governe modelos registrados, incluindo modelos de base servidos pelo Databricks, com privilégios do Unity Catalog.
• • Permissões de modelo básico
  • Restrinja quais modelos básicos disponibilizados pelo Databricks sua organização pode acessar, em toda a account ou por grupo.
• • Ferramentas MCP
  • Governar servidores MCP registrados como objetos protegidos do Unity Catalog, com filtragem de ferramentas e políticas de serviço.
• • Ferramentas personalizadas
  • Governe as funções do Unity Catalog que os agentes usam como ferramentas, com os mesmos privilégios que você usa para dados.
• • Conexões HTTP
  • Governe as conexões do Unity Catalog usadas para acessar APIs externas e servidores MCP.
• • Criar APIs de modelo personalizadas
  • Opcional: adicione seus próprios Endpoint governados quando precisar de modelos além dos default system.ai prontos para uso.

Roteie e gerenciar o tráfego de AI

O Unity AI Gateway encaminha as solicitações para seus serviços de modelo e MCP a partir de um plano de controle central, para que seja possível gerenciar a capacidade, a disponibilidade e os gastos entre provedores.

• • Aplicar limites de taxa
  • Aplique limites de consumo em serviços de modelo e serviços MCP para gerenciar capacidade e custo.
• • Configure a divisão de tráfego e fallbacks.
  • Distribua solicitações entre vários destinos de modelo e adicione failover para aumentar a disponibilidade.
• • Gerenciar orçamentos
  • Monitore gastos e defina limites por usuário e limites máximos.

Defina limites de segurança e políticas de acesso

Políticas de serviço, também chamadas de guardrails, controlam como cada solicitação e resposta procede, com base em seu conteúdo e em quem está fazendo a chamada.

• • Políticas de serviço para recursos protegíveis de IA
  • Como as políticas de serviço governam o conteúdo de solicitações e respostas para serviços de AI, usando políticas integradas e personalizadas.
• • Criar e anexar uma política de serviço
  • Como escrever uma função de política de serviço e anexá-la a um serviço MCP ou serviço de modelo.

Monitorar uso, custo e risco

Acompanhe a atividade, os gastos e os resultados em todos os serviços do Unity AI Gateway.

• • Visão geral da observabilidade
  • Escolha a ferramenta certa para monitorar o uso, o custo, o desempenho e a atividade de AI em todos os serviços.
• • Monitore o uso
  • Acompanhe solicitações, uso de tokens e latência no Unity AI Gateway usando tabelas do sistema.
• • Analisar custo
  • Atribua o custo do Databricks a serviços, modelos de destino, entidades de serviço e tags.
• • Audite as solicitações e respostas
  • Faça o log de solicitações e respostas em tabelas Delta do Unity Catalog para monitoramento e depuração.