Políticas de serviço para securitizáveis de AI
Beta
Este recurso está em Beta. Os administradores do workspace podem controlar o acesso a este recurso na página Prévias optando pela prévia Políticas de serviço do Unity Gateway . Consulte Gerenciar prévias no nível do workspace.
As políticas de serviço permitem governar o conteúdo das interações com serviços de AI registrados no Unity Catalog, incluindo servidores MCP externos e modelos de qualquer provedor, não apenas os hospedados pelo Databricks. As concessões do Unity Catalog determinam se um principal pode chamar um serviço. As políticas de serviço regem como essa interação prossegue, com base no conteúdo da solicitação e resposta e em quem está fazendo a chamada.
Políticas de serviço são os mecanismos que você usa para implementar proteções para serviços de AI. Se você deseja adicionar proteções, como bloquear dados sensíveis, injeção de prompt ou conteúdo inseguro, as políticas de serviço são o mecanismo: o Databricks tem proteções integradas para riscos comuns, você pode escrever políticas personalizadas para regras específicas da sua organização e você pode aplicar as decisões de um fornecedor de proteção de terceiros com uma política de serviço externa.
Isso é mais importante quando os agentes atuam em nome dos usuários. Um agente herda tudo o que o usuário pode acessar, e os serviços geralmente alcançam sistemas externos. As políticas de serviço permitem definir limites de segurança nessa atividade. Por exemplo, você pode exigir o consentimento do usuário antes que um agente envie (push) código para um repository Git por meio de um serviço MCP, recusar uma resposta de modelo que contenha informações pessoalmente identificáveis (PII) ou bloquear conteúdo inseguro.
As políticas personalizadas também podem verificar e impor a presença ou ausência de tags de solicitação fornecidas pelo chamador. Consulte Exigir um projeto qualificado e a referência de tags de solicitação.
As políticas de serviço são um dos três tipos de política de controle de acesso baseado em atributos (ABAC) no Unity Catalog:
- As políticas ABAC GRANT concedem privilégios do Unity Catalog em objetos protegíveis cujas tags governadas correspondem a uma condição. Eles controlam se um principal pode acessar um objeto.
- As políticas de filtro de linha e máscara de coluna controlam quais linhas e colunas um principal vê em uma tabela.
- As políticas de serviço regem o conteúdo de cada solicitação e resposta a um serviço de AI, para permiti-la ou negá-la. Em um serviço MCP, uma política também pode conter uma solicitação de entrada para aprovação.
As políticas ABAC GRANT são de controle de acesso. As políticas de filtro de linha e máscara de coluna e as políticas de serviço são políticas de conteúdo , que regem o que acontece após um principal ter acesso. Assim como um filtro de linha ou máscara de coluna, uma política de serviço SQL personalizada faz referência a uma função do Unity Catalog que contém a lógica de governança e a anexa a um item protegível.
Como as políticas de serviço complementam as concessões do Unity Catalog
Os privilégios do Unity Catalog e as políticas de serviço abordam diferentes questões de governança e operam em diferentes pontos de aplicação.
Aspecto | Privilégios do Unity Catalog | Políticas de serviço |
|---|---|---|
Pergunta respondida | Este principal pode chamar este serviço? | Como esta interação deve prosseguir? |
Entradas | Identidade principal e privilégios concedidos | Conteúdo da solicitação, conteúdo da resposta, tags da solicitação, anotações de ferramentas e contexto do ator |
Ponto de aplicação | Antes que a solicitação chegue ao serviço | Antes de o serviço ser invocado (fase de entrada, ON CALL) e após o serviço responder (fase de saída, ON RESULT) |
Granularidade | Por principal, por securável | Por solicitação, com base no conteúdo e contexto |
As políticas de serviço não substituem as concessões do Unity Catalog. Um principal deve ter primeiro os privilégios apropriados do Unity Catalog para chamar um serviço. As políticas de serviço avaliam então o conteúdo de cada interação para impor regras de governança adicionais.
Decisões de política
Uma política de serviço avalia o conteúdo de uma solicitação ou resposta e retorna um de três resultados:
- PERMITIR : a interação continua.
- DENY : a política bloqueia a interação. Para APIs de modelo em estilo de chat, em vez de um status de erro, o Databricks retorna uma resposta de sucesso (HTTP 200). Em um Serviço de Modelo ou Serviço de Provedor de Modelo, o turno do assistente carrega uma mensagem curta que nomeia a política de serviço que bloqueou, e um objeto de nível superior
databricks_service_policycarrega o detalhe estruturado, incluindo o blocoreason. Retornar o bloco como um turno normal evita que clientes de conversação que reenviem todo o histórico, como agentes de codificação, façam Trigger novamente no mesmo bloco em cada turno posterior. Uma negação de entrada de incorporação retorna HTTP 400 e bloqueia toda a solicitação antes da execução do modelo. Em um Serviço MCP, a resposta é um erro JSON-RPC com o blocoreasonemerror.message. - PERGUNTAR : em um serviço MCP, a política pausa uma solicitação para aprovação do usuário antes que a ferramenta seja execução. Use esta ação quando um usuário precisar aprovar uma operação sensível, como uma chamada de ferramenta MCP destrutiva. Para agentes externos que chamam um serviço MCP, o prompt de aprovação é entregue por meio da obtenção do modo URL MCP. Se uma função de política personalizada retornar
ASKpara um serviço de modelo ou serviço de provedor de modelo, o Databricks bloqueará a solicitação ou resposta porque esses serviços não podem solicitar aprovação do usuário. Consulte Retornar uma decisão.
Uma política personalizada é uma função SQL definida pelo usuário (UDF) que recebe o evento de interação (que inclui o ator e o conteúdo da solicitação ou resposta) e retorna um resultado de decisão, ou uma política de LLM como juiz que classifica o conteúdo em relação a critérios escritos por você em linguagem natural. As políticas integradas são gerenciadas pelo Databricks, e uma política de serviço externa envia o conteúdo para um serviço de barreira de proteção de terceiros que retorna a decisão.
Uma política personalizada também pode ser um UDF Python.
Pontos de avaliação
O Databricks avalia políticas de serviço nos seguintes pontos para chamadas de ferramenta MCP e solicitações de API de modelo suportadas:
- Entrada (EM CHAMADA): Antes que o Databricks invoque o serviço, contra a solicitação. Use esta fase para inspecionar solicitações antes que elas cheguem ao serviço subjacente. Por exemplo, bloquear uma solicitação que invoca uma ferramenta MCP destrutiva ou negar um prompt que contenha dados sensíveis antes que ele chegue a um modelo.
- Saída (ON RESULT): após o serviço responder, contra a resposta. Use esta fase para inspecionar as respostas antes que elas retornem ao chamador. Por exemplo, bloqueie uma resposta que contenha conteúdo alucinado ou dados confidenciais.
As solicitações de incorporação oferecem suporte apenas à fase de entrada. Nenhuma política avalia os vetores resultantes.
Em serviços de modelos e serviços de provedores de modelos, as políticas de saída podem verificar uma resposta de transmissão à medida que ela é gerada e liberar o texto aprovado antes que o modelo termine. Consulte Respostas de transmissão.
Para APIs de modelo em estilo de chat e chamadas de ferramenta MCP, uma função de política personalizada tem sua execução em ambos os pontos. Ela inspeciona a fase atual (event:type) e decide como agir, de modo que uma única política pode governar a solicitação, a resposta ou ambos. Para agir em apenas uma fase, crie uma branch em event:type no corpo da função. Para políticas integradas e políticas LLM-as-a-judge personalizadas, você escolhe a fase na configuração Fase do formulário de política. Algumas políticas integradas oferecem suporte a fases diferentes em serviços diferentes. O guardrail Jailbreak tem execução apenas na fase de entrada em serviços de modelo e provedor de modelo e na entrada, saída ou ambos em serviços MCP. O formulário de política pré-seleciona a saída para Jailbreak em um serviço MCP, mas os chamadores de API devem definir explicitamente o campo de solicitação options.phases da política como pre_call (entrada), post_call (saída) ou pre_call,post_call (ambos). A detecção de alucinação tem execução apenas na fase de saída. As políticas de serviço externo também são delimitadas pela fase: você escolhe a fase de entrada, a fase de saída ou ambas ao anexar uma.
Ordem de avaliação
Você pode anexar mais de uma política de serviço a um serviço. Cada anexo tem um nível (prioridade), e DENY em um nível interrompe a avaliação em níveis posteriores. O Databricks avalia os níveis em ordem crescente na fase de entrada (ON CALL, nível mais baixo primeiro) e em ordem inversa na fase de saída (ON RESULT). Políticas no mesmo nível são avaliadas em dois estágios, conforme descrito abaixo. Use diferentes ordens para controlar a ordem de avaliação.
Avaliação dentro de uma classificação
Para APIs de modelo estilo chat e chamadas de ferramenta MCP, o Databricks avalia políticas na mesma classificação em dois estágios:
- Políticas de LLM-as-a-judge de bloqueio em execução paralela. Estas são as políticas de LLM-as-a-judge integradas e personalizadas que bloqueiam (
DENY) conteúdo, como detecção de conteúdo inseguro. Como essas são verificações apoiadas por modelo, executá-las simultaneamente significa que a latência adicionada é aproximadamente a da avaliação única mais lenta, não a soma delas. - As políticas restantes entram em execução sequencialmente, mas apenas se nenhuma política na primeira fase retornou
DENY. Esta fase abrange funções de política personalizadas, políticas de serviço externo, a política integradasystem.ai.detect_sensitive_datae políticas que pausam para aprovação (ASK), incluindo um conjunto de políticas de LLM-as-a-judge definido para perguntar em vez de bloquear. A ordem deles dentro desta fase é indefinida.ASKpausa uma chamada de entrada apenas para serviços MCP. Para Model Serviços e Model Provider Serviços,ASKbloqueia a solicitação ou resposta.
Um DENY no estágio paralelo ignora o estágio sequencial. O estágio sequencial não para em um DENY: cada política nele entra em execução, mesmo depois que uma retorna DENY. Por exemplo, uma política SQL personalizada que nega uma solicitação não impede que uma política de serviço externa com o mesmo nível envie o conteúdo para seu fornecedor. Um DENY em qualquer estágio interrompe a avaliação em níveis posteriores, então, para pular uma política quando outra nega, coloque a política de negação em um nível que seja avaliado primeiro.
Para solicitações de incorporação, os juízes de bloqueio no mesmo rank passam por execução um de cada vez, com até quatro itens de entrada verificados simultaneamente. Um juiz DENY ignora as políticas restantes nesse rank. Consulte Incorporação de guardrails de entrada para ver o efeito nas chamadas do juiz e na latência.
O diagrama a seguir mostra onde as duas fases se situam em torno de um serviço e o que cada decisão faz:

Para ver as políticas anexadas a um serviço específico e a ordem de execução delas, abra a tab Políticas do serviço e clique em Ver fluxo de execução .
Respostas de transmissão (Beta)
Beta
A avaliação de transmissão está em Beta. Faz parte da prévia do Unity Gateway Serviço Policies e não tem uma alternância separada. Consulte Gerenciar prévias do nível de workspace.
Nos serviços de modelo e serviços de provedor de modelo, cada política tem uma configuração de Avaliação de resposta que controla como as políticas de saída lidam com solicitações de transmissão:
- Avaliação de transmissão : O default. As políticas de saída verificam a resposta conforme o modelo a gera, e o Databricks libera o texto aprovado antes que o modelo termine.
- Avaliação completa da resposta : as políticas de saída avaliam a resposta completa antes que qualquer parte dela seja liberada.
As políticas existentes também usam avaliação de transmissão por default. Selecione Avaliação completa da resposta quando nenhum texto pode chegar ao cliente antes de toda a resposta ser processada, ou quando uma política personalizada requer a resposta completa ou campos finais, como o uso de tokens.
Se qualquer política de saída aplicada a uma solicitação usar avaliação de resposta completa, incluindo uma política no modo Log , cada política de saída avaliará a resposta completa. Para solicitações no estilo de chat, as políticas personalizadas de SQL e Python têm execução em ambas as fases, portanto, sua configuração também conta. Com a avaliação de transmissão, essas funções têm sua execução em cada janela, mesmo que sua lógica atue apenas na solicitação. A configuração não tem efeito em políticas de apenas entrada.
A avaliação de transmissão aplica-se a solicitações de transmissão para as APIs de modelo em estilo de chat compatíveis. As políticas de saída usam avaliação de resposta completa para solicitações que não são de transmissão em estilo de chat e resultados de ferramentas MCP. Na API, defina o campo stream_mode de uma política como STREAM_MODE_WINDOWED_SYNC para avaliação de transmissão ou STREAM_MODE_FULLY_BUFFERED para avaliação de resposta completa. A omissão do campo seleciona a avaliação de transmissão. Os serviços MCP rejeitam o campo.
Como funciona a avaliação de transmissão
Com a avaliação de transmissão, o Databricks mantém a saída do modelo e a verifica em janelas sobrepostas:
- Com as configurações default, o Databricks realiza a execução das políticas de saída após algumas centenas de novos caracteres chegarem. Se a transmissão estiver mais lenta, o próximo pedaço após cerca de um segundo também pode Trigger uma verificação. Apenas uma verificação tem execução por vez por solicitação.
- Cada verificação lê novamente o texto de resposta recente, normalmente os últimos 16.000 caracteres, e todo o texto não liberado, se for mais longo. A sobreposição dá às políticas contexto de janelas anteriores, em vez de apenas o texto mais recente.
- Quando uma janela passa, o Databricks libera o texto aprovado, geralmente mantendo uma pequena parte até uma verificação posterior ou a conclusão da transmissão. Isso reduz a chance de liberar parte de um valor sensível antes que a política reconheça o valor completo.
- Na conclusão, o Databricks avalia qualquer saída restante ou metadados de conclusão alterados, como o uso de tokens quando disponível. A partir da primeira chamada de ferramenta de cliente, o restante da resposta aguarda aprovação final.
- Se uma política nega a resposta, o Databricks retém o texto não liberado, adiciona uma mensagem informando que uma política de serviço bloqueou a resposta e encerra a transmissão. O texto já liberado permanece no cliente.
O exemplo a seguir mostra verificações sobrepostas com um final retido.

O texto chega ao cliente em rajadas, em vez de token por token, porque cada liberação aguarda a conclusão das políticas. A cauda retida reduz os riscos de limite, mas não garante que conteúdo sensível não possa chegar ao cliente.
Políticas de serviço integradas
A Databricks fornece políticas de serviço integradas sob o namespace system.ai. Eles cobrem cenários comuns de governança sem SQL personalizado. As AI guardrails da Databricks são políticas de serviço integradas: políticas pré-configuradas e gerenciadas pela Databricks (como detecção de conteúdo inseguro e jailbreak) que você anexa da mesma forma que uma política personalizada:
system.ai.block_unsafe_content: nega interações que contêm conteúdo inseguro ou prejudicial.system.ai.block_jailbreak: detecta conteúdo de jailbreak e injeção de prompt. Em serviços de modelo e serviços de provedor de modelo, ele avalia apenas o input do modelo. Em serviços MCP, ele pode avaliar a chamada e os argumentos da ferramenta no input, o resultado da ferramenta no output ou ambos.system.ai.block_hallucination: nega respostas que contenham conteúdo alucinatório.system.ai.detect_sensitive_data: detecta dados sensíveis estruturados (como números de cartão de crédito e números de segurança social) e nega a interação ou mascara os valores correspondentes. Ao contrário dos outros, ele é determinístico (baseado em padrões, sem modelo avaliador) e pode mascarar em vez de apenas negar. Consulte Detectar dados confidenciais com uma política de serviço.
Para usar uma política integrada, anexe-a a um serviço. Você precisa de MANAGE no serviço de destino.
As políticas integradas são gerenciadas pela Databricks e não aparecem como funções que você pode navegar no esquema system.ai do Catalog Explorer. Você os seleciona e anexa por nome por meio da interface do Unity Gateway, conforme descrito em Criar e anexar uma política de serviço.
Como funcionam as políticas de serviço integradas
As políticas de serviço integradas são de dois tipos. As políticas de serviço de LLM como avaliador integradas fazem execução de um prompt com curadoria do Databricks em relação a um modelo avaliador para decidir se o conteúdo viola a política. A detecção de dados sensíveis é determinística: ela corresponde a padrões e somas de verificação, e não usa um modelo avaliador.
O serviço de modelo do avaliador
Cada política de serviço integrada executa seu prompt em um serviço de modelo de avaliador , o modelo que julga o conteúdo. O Databricks pré-seleciona um avaliador default, portanto nenhuma configuração é necessária. Para usar um modelo diferente, expanda Opções avançadas quando anexar a política e selecione um. Você precisa de EXECUTE no serviço de modelo escolhido, além de USE CATALOG e USE SCHEMA em seu catálogo e esquema. Consulte Conceder acesso a um serviço de modelo. O Databricks verifica esse acesso quando você anexa a política, portanto, os chamadores do serviço protegido não precisam de acesso ao avaliador. O avaliador é separado do serviço que você está protegendo, de modo que uma política pode julgar uma solicitação para um serviço de modelo usando um modelo diferente como avaliador.
O Databricks mantém o prompt da política, que é somente leitura. É possível visualizar em Prompt ao anexar a política para ver os critérios exatos que o avaliador aplica.
O que o avaliador recebe
Quando uma política de serviço integrada é executada, o Databricks envia uma solicitação ao avaliador com duas partes:
- Uma mensagem do sistema que contém o prompt de política e um contrato de saída (descrito na seção a seguir).
- Uma mensagem do usuário que contém o conteúdo em avaliação. Na fase de entrada, é a última mensagem do usuário em um modelo ou serviço de provedor de modelo, juntamente com uma janela de turnos de conversa recentes (veja abaixo), ou a chamada da ferramenta e seus argumentos em um serviço MCP. Na fase de saída, é a resposta do modelo ou o resultado da ferramenta MCP após a execução da ferramenta.
O avaliador recebe texto serializado em vez de payloads de imagem ou áudio decodificados. Na fase de saída e nos serviços MCP, ele julga apenas esse único item extraído. Para a avaliação de saída de Jailbreak em um serviço MCP, a entrada inclui tanto result.content quanto result.structuredContent, incluindo texto inline e blobs de recursos textuais. Outros juízes de LLM em serviços MCP recebem apenas result.content. Na fase de entrada, os juízes de LLM nos serviços MCP ignoram as chamadas de ferramenta que não possuem argumentos.
O jailbreak em um serviço MCP extrai blobs de recursos da mesma forma que a detecção de dados confidenciais. A decodificação é feita com o melhor esforço: blobs que não podem ser decodificados ou que excedem o limite de tamanho são omitidos. A triagem usa o tipo de mídia (mimeType) que o servidor MCP declara. Um tipo de mídia ausente ou vazio é tratado como texto, e blobs declarados como não textuais são excluídos. O avaliador não busca links de recursos.
O Jailbreak em um serviço MCP verifica chamadas de ferramentas (tools/call) e seus resultados. As descrições das ferramentas retornadas por tools/list não são verificadas.
Para entrada de embedding, cada chamada de avaliador recebe um item que não esteja em branco.
Na fase de entrada de APIs de modelo no estilo de chat, o avaliador também recebe uma janela de turnos de conversação recentes, para que possa detectar padrões que se acumulam ao longo de uma conversação, como uma escalada gradual. Ao criar uma política no formulário de política, a Janela de conversação assume o default dos últimos 10 turnos. Você pode alterar o número, defini-lo como 1 para julgar apenas a última mensagem ou selecionar Avaliar toda a conversa . Uma política que não tem uma janela de conversação definida julga apenas a mensagem mais recente.
Contrato de saída
O Databricks anexa automaticamente um contrato de saída JSON ao prompt da política, para que o avaliador retorne uma decisão estruturada em vez de texto livre. O avaliador retorna:
flagged(Boolean):truese o conteúdo violar os critérios da política.confidence(float,0.0a1.0, opcional): a confiança do avaliador na decisão.reason(string): uma explicação curta do porquê o conteúdo foi sinalizado. Retornado quandoflaggedétrue.
Quando o avaliador retorna flagged: true, o Databricks bloqueia a interação por default. Em um serviço MCP, uma política configurada para perguntar em vez de pausa a solicitação para aprovação humana antes que a ferramenta entre em execução. Como o Databricks aplica o contrato para você, os integrados de LLM-as-a-judge não precisam de configuração além da fase e da classificação. A Detecção de Dados Confidenciais também usa tags de classificação e uma ação.
Um avaliador do OpenJev não usa este contrato. Em vez disso, ele responde a uma pergunta do tipo sinalizar ou permitir e não retorna nenhum reason. Consulte Usar o OpenJev como avaliador.
O avaliador é um modelo, portanto, seus veredictos não são determinísticos, e o reason é um texto livre curto em vez de dados estruturados. Para ver quais políticas foram executadas em uma solicitação e o que cada uma decidiu, use a tabela de rastreamento unificada. Para ver também o confidence de um juiz e o conteúdo exato avaliado por ele, habilite uma tabela de inferência no serviço de modelo do avaliador. Consulte Depurar e auditar uma decisão de política.
Custo de avaliação
Durante o Beta, o Databricks não cobra uma taxa separada para políticas de serviço integradas. Cada avaliação é cobrada como qualquer outra chamada para o serviço de modelo de avaliador, portanto, o custo depende de como esse modelo é servido. Os tokens cobrados por cada avaliação cobrem o prompt de política, o contrato de saída, a mensagem extraída e a resposta do avaliador. Para limitar o overhead, mantenha um pequeno número de políticas por fase e prefira um modelo de avaliador de baixa latência.
Com a avaliação de transmissão, um avaliador de saída avalia o texto de resposta sobreposto várias vezes. Cada avaliação faz uma chamada separada para o serviço de modelo avaliador e consome tokens de avaliador. Uma resposta longa de transmissão pode, portanto, usar mais tokens de avaliador do que uma avaliação de resposta completa.
Políticas de serviço externas
Uma política de serviço externo impõe as decisões de um fornecedor de guardrail de terceiros, como um serviço de segurança de AI ou de prevenção contra perda de dados. Você o anexa com o tipo de guardrail Externo e o aponta para uma conexão HTTP do Unity Catalog que armazena o endpoint do fornecedor e as credenciais OAuth máquina a máquina. Em cada avaliação, o Databricks envia o conteúdo sob avaliação ao fornecedor, que retorna um veredito com um motivo opcional, e o Databricks aplica o resultado.
O fornecedor deve implementar a API de política externa do Databricks. As políticas de serviço externo retornam ALLOW ou DENY, ou ASK para manter uma chamada de ferramenta MCP para aprovação do usuário. Elas não podem editar o conteúdo. Elas falham fechadas, portanto, um endpoint do fornecedor inacessível ou lento nega a chamada. Consulte Impor um guardrail de parceiro com uma política de serviço externo.
Com a avaliação de transmissão, uma política de saída externa chama o fornecedor para cada janela avaliada. Essas chamadas contam para os limites de taxa e os preços do fornecedor.
Serviços suportados
Você pode anexar políticas de serviço aos seguintes objetos protegíveis do serviço Unity Catalog:
- Serviços MCP: servidores MCP gerenciados, externos e personalizados.
- Serviços de Modelo: endpoints de LLM hospedados e externos.
- Serviços de provedor de modelo: provedores de modelo externos governados.
APIs de modelo compatíveis
Em serviços de modelo e serviços de provedor de modelo, as políticas de serviço suportam essas APIs de modelo estilo chat nas fases de entrada e saída:
- Preenchimentos de chat: Databricks, OpenAI e Cursor.
- Mensagens da Anthropic.
- Respostas da OpenAI e respostas abertas do Databricks, incluindo solicitações do Codex encaminhadas por esses formatos.
- Gemini
generateContentestreamGenerateContent.
As políticas de serviço também suportam a incorporação de entradas em solicitações mlflow/v1/embeddings e openai/v1/embeddings. Consulte Incorporando guardrails de entrada.
Com qualquer política de serviço anexada, inclusive uma em modo de Log, as solicitações de passagem não gerenciadas retornam HTTP 400.
Para APIs compatíveis estilo chat, solicite uma única resposta (n=1 ou candidateCount=1). Solicitações de várias respostas retornam HTTP 400 quando qualquer política está anexada, incluindo uma no modo Log.
As políticas de serviço não estão em execução em solicitações de preenchimento de texto legado ou inferência de System One. Nem a fase de entrada nem a fase de saída entram em execução, mesmo quando uma política é anexada ao serviço. Essa limitação se aplica a todos os tipos de política, incluindo Detecção de Dados Confidenciais, LLM-as-a-judge, SQL ou Python personalizado e políticas externas. Use uma API de modelo suportada para solicitações que exigem aplicação de política.
Uma resposta bem-sucedida de uma API não compatível não significa que uma política avaliou a solicitação ou a resposta.
Incorporação de verificadores de integridade da entrada
As políticas de serviço suportam solicitações mlflow/v1/embeddings e openai/v1/embeddings para o Model Serviços e o Model Provider Serviços.
Os guardrails de texto aceitam uma string input ou uma matriz não vazia de strings. A aplicação de guardrails de texto rejeita matrizes de ID de token, matrizes mistas ou aninhadas, entrada ausente ou nula e matrizes vazias. Com um guardrail de texto de aplicação, um lote pode conter no máximo 16 itens. Lotes maiores retornam HTTP 400 antes da execução do modelo de incorporação. A API e o modelo de incorporação ainda aplicam seus limites de texto, token e tamanho de solicitação.
As seguintes políticas de texto suportam a fase de entrada (pre_call):
- Detecção de dados confidenciais, com Recusar ou Mascarar.
- Detecção de conteúdo inseguro e jailbreak, com Negar.
- Políticas personalizadas de um LLM como juiz, com Negar.
Para embeddings, as políticas de serviço avaliam apenas a entrada. Em um serviço que aceita solicitações de chat e embedding, uma política configurada para ambas as fases avalia a entrada de embedding e ainda avalia a saída de chat. Políticas somente de saída e detecção de alucinação não são suportadas para embeddings. Por exemplo, uma política de alucinação de aplicação ou uma política de máscara somente de saída em um serviço de provedor de modelo rejeita solicitações de embedding com HTTP 400 antes da execução do modelo. Para permitir solicitações de embedding, escolha uma das seguintes opções:
- Encaminhe as incorporações por meio de um serviço separado para preservar a execução do chat.
- Substitua a política por uma que suporte a fase de entrada. Se você adicionar a fase de entrada a uma política existente, ela também começará a verificar a entrada de chat.
- Alterne a política para o modo de Log. Isso também interrompe a imposição para solicitações de chat.
Uma política de LLM-as-a-judge avalia cada item que não esteja em branco separadamente, independentemente da sua janela de conversão ou configuração de max_turns. Cada avaliador faz uma chamada por item que não esteja em branco, portanto, um lote de 16 itens com dois avaliadores faz até 32 chamadas de avaliador, adicionando latência e custos de uso. Se um avaliador não puder aceitar o item completo, a solicitação falhará com POLICY_EVALUATION_FAILED no erro reason. O texto não é truncado. Se qualquer item for negado, toda a solicitação falhará com HTTP 400.
Com a Máscara, a Detecção de Dados Confidenciais substitui as correspondências em cada item enquanto preserva a ordem do item e outros campos de solicitação, como model e dimensions. O modelo incorpora o texto redigido, portanto os vetores e os resultados de recuperação podem mudar. A resposta de incorporação não indica se ou quais itens foram redigidos.
Para uma recuperação consistente, aplique a mesma política de redação ao conteúdo indexado e ao texto da query. Se seu aplicativo deve saber se uma entrada mudou, redija o texto antes de chamar a API de embeddings. Para julgar o texto redigido, dê à política de redação uma classificação de entrada menor que o juiz. O modo de log deixa a entrada inalterada.
Políticas personalizadas de SQL e Python recebem apenas o evento de solicitação de incorporação. Políticas externas recebem um evento model_call quando configuradas para entrada. Nenhum dos tipos recebe resultados de incorporação. Uma função personalizada que atua apenas em eventos de resposta não protege solicitações de incorporação. Cada evento de entrada contém o JSON da solicitação inteira. Embeddings não têm mensagem de conversação. Consulte referência da API de política de serviço externo.
Comportamento de falha fechada
A avaliação da política de serviço falha quando fechada para chamadas de ferramenta MCP e solicitações de API de modelo com suporte. As solicitações para as APIs de modelo excluídas ignoram a avaliação da política, portanto, elas não falham quando fechadas. Quando você anexa uma política por meio do Unity Gateway, o Databricks a valida no momento do anexo, e qualquer erro durante a avaliação resulta em DENY. Os erros incluem erros de usuário na função de política, erros de sistema, campos ausentes no contexto da solicitação e tempos limite. Para uma política de serviço externa, os erros também incluem um endpoint de fornecedor que está inacessível, retorna um erro ou retorna um veredito diferente de ALLOW, DENY ou ASK.
Uma política mal configurada ou corrompida bloqueia a interação em vez de permiti-la.
Se uma política de saída de aplicação falhar durante a avaliação da transmissão, a transmissão poderá terminar com um erro em vez de uma mensagem de bloqueio de política. As falhas incluem erros de avaliador, timeouts e erros de limite de taxa. O cliente mantém qualquer texto já lançado. Se uma política personalizada precisar da resposta completa para avaliar com sucesso, selecione Avaliação de resposta completa .
Uma política no modo Logs não é de aplicação obrigatória. Ele registra o que a política teria decidido sem bloquear a interação, de modo que até mesmo um DENY em potencial permite que a solicitação prossiga. A validação da solicitação ainda se aplica, incluindo a validação de tag de solicitação.
Limitações
Aplicam-se as seguintes limitações:
-
Políticas de embedding : As políticas de serviço suportam apenas a fase de entrada para embeddings. Consulte Guardrails de entrada de embedding.
-
Cobertura de API do modelo : a cobertura depende da API do modelo. Consulte APIs de modelo compatíveis.
-
Transformation : as políticas de serviço retornam uma decisão (ALLOW, DENY ou ASK) e não transformam o conteúdo da solicitação ou da resposta. A única exceção é a política
system.ai.detect_sensitive_dataintegrada, que pode redigir valores correspondentes em serviços de modelo. -
Políticas de serviço externo : Uma política de serviço externo retorna
ALLOWouDENY, ouASKem uma chamada de ferramenta MCP, e suporta apenas autenticação máquina-a-máquina OAuth. Veja Limitações de política de serviço externo. -
Serviços compatíveis : As políticas de serviço aplicam-se a serviços MCP, serviços de modelos e serviços de provedor de modelos. Os serviços de agente não são compatíveis.
-
Passthrough de serviço do provedor de modelo : em um serviço de provedor de modelo, o Databricks rejeita solicitações de passthrough não gerenciadas com HTTP 400 quando qualquer política está anexada, incluindo uma política no modo Log. Sem uma política anexada, Encaminhar todos os caminhos de URL encaminha essas solicitações ao provedor. As políticas avaliam apenas os caminhos da API suportados pelo provedor.
-
Janela de conversa : Avaliadores de LLM integrados e personalizados podem usar uma janela de conversa apenas durante a avaliação de entrada em serviços de modelo e provedor de modelo. Para esses avaliadores, a avaliação de saída e os serviços MCP usam uma única mensagem, chamada de ferramenta ou resultado de ferramenta. Para APIs de modelo estilo chat, funções SQL e Python personalizadas recebem um objeto neutro de provedor sob
event:context.conversationdurante a avaliação de entrada e saída. Durante a avaliação de saída, o objeto contém a conversa da solicitação de origem. Consulte Como funcionam as políticas de serviço integradas e Contexto da conversa. Os avaliadores de incorporação avaliam cada item não vazio independentemente, e os eventos de incorporação não têm contexto de conversa. -
Respostas de transmissão : O texto liberado não pode ser retirado após uma negação ou erro de avaliação. Cada verificação, incluindo a verificação final, usa uma análise retrospectiva limitada, portanto, uma resposta longa pode nunca ser totalmente avaliada por uma única verificação. Consulte Como funciona a avaliação de transmissão.
-
**Avaliação aninhada**: Se o serviço de modelo de avaliador que você selecionar para uma política de serviço integrada tiver suas próprias políticas anexadas, a Databricks as ignorará ao executar a avaliação. Isso impede a recursão.
-
Políticas Python personalizadas : as políticas Python personalizadas estão disponíveis apenas em algumas regiões e têm limitações adicionais. Veja Limitações da política Python.