Detecte dados confidenciais com uma política de serviço

info

Beta

Esse recurso está em Beta. Os administradores da account podem controlar o acesso a esse recurso na página Previews do console da account. Consulte Gerenciar prévias do Databricks.

A detecção de dados sensíveis é uma política de serviço integrada que encontra dados sensíveis, como informações pessoalmente identificáveis (PII), em solicitações e respostas e bloqueia a interação ou redige o valor correspondente no local. Ao contrário das políticas integradas de LLM-como-juiz, ele é determinístico e adiciona pouca latência.

Você anexa a Detecção de Dados Confidenciais a um Serviço de Modelo ou Serviço de Provedor de Modelos . Você escolhe quais categorias procurar e se uma correspondência bloqueia a interação ou redige o valor.

Anexar a política

nota

Durante a versão Beta, a IU de política pode mudar. Se um rótulo diferir destes passos, siga os rótulos no produto. Os campos Principals and scope ainda não são configuráveis: uma política se aplica a todos os usuários da conta no serviço.

Você anexa a Detecção de Dados Sensíveis por meio da interface do Unity AI Gateway, da mesma forma que anexa qualquer política integrada. Você precisa de MANAGE no serviço de destino. Durante a versão Beta, as políticas integradas são gerenciadas pelo Databricks e não aparecem como funções que você pode navegar ou conceder no esquema system.ai, portanto, não há privilégio EXECUTE para definir; você seleciona a política pelo nome na interface.

1. Na barra lateral do Workspace, clique em AI Gateway .
2. Selecione o serviço a ser governado. Ou um serviço de modelo na tab Models , ou um serviço de provedor de modelos na tab Providers .
3. Abra a tab Políticas e, em seguida, clique em Nova política .
4. Insira um Nome para a política.
5. Em Tipo de guardrail , selecione Detecção de dados confidenciais .
6. Selecione as Tags de classificação a serem detectadas e escolha se uma correspondência bloqueia a interação ou redige os valores correspondentes.
7. Em Fase , selecione Entrada , Saída ou ambos.
8. Defina a Classificação para controlar a ordem de avaliação em relação a outras políticas no serviço. Consulte Ordem de avaliação.
9. Clique em Criar política .

A política aparece na tab Políticas do serviço. Durante a versão Beta, aguarde um curto período para que ela se propague antes de testar.

Como a política funciona

Ao anexar a política, você define três coisas:

• Categorias (obrigatório): os tipos de dados confidenciais a detectar. Consulte Categorias compatíveis.

• Ação: o que acontece em uma correspondência.

  • Bloqueio: o Databricks recusa a interação. Em vez de um erro, o chamador recebe uma resposta bem-sucedida (HTTP 200) cujo turno do assistente nomeia a política de serviço que bloqueou, e um objeto databricks_service_policy de nível superior carrega o bloqueio reason, que nomeia as categorias correspondentes, por exemplo Detected sensitive data (US_SSN, CREDIT_CARD).
  • Redigir: o Databricks substitui cada valor correspondente por um dos tokens de espaço reservado, como [US_SSN], e encaminha o conteúdo reescrito. Em uma solicitação, o modelo recebe o texto redigido. Em uma resposta, o chamador a recebe. A política integrada transforma o conteúdo em vez de apenas retornar uma decisão.

• Fase: se a política é executada na entrada, na saída ou em ambas.

Como a detecção é determinística, o Databricks ajusta o bloqueio e a redação separadamente. A redação é acionada no formato da categoria, além de uma soma de verificação onde ela se aplica, o que favorece uma detecção maior. O bloqueio é mais rigoroso para categorias que são apenas uma sequência de dígitos, uma vez que requer uma soma de verificação ou uma palavra de contexto próxima, para que um número aleatório não recuse uma solicitação. Formatos distintos, como endereços de email e IP, bloqueiam apenas pela correspondência.

Categorias suportadas

A Detecção de dados confidenciais detecta as 15 categorias a seguir, agrupadas por jurisdição. No campo Tags de classificação , selecione as tags que deseja detectar. Cada um está listado na coluna Tag abaixo, por exemplo, class.us_ssn. Consulte tags do sistema de classificação de dados para valores de tag aceitos.

A coluna Detection method mostra como o Databricks identifica cada categoria:

• Regex: uma correspondência de padrão no formato do valor.
• Soma de verificação: uma verificação de validação no valor correspondente, como a verificação de Luhn em um número de cartão, que rejeita valores que se ajustam ao formato, mas não podem ser válidos.
• Palavras-chave de contexto: uma palavra relacionada deve aparecer próxima à correspondência, por exemplo, "SSN" perto de um número de nove dígitos. Como um número isolado é ambíguo, essas categorias exigem uma palavra-chave próxima para bloquear , embora a redação ainda seja acionada apenas pelo formato.

Identificadores globais

Etiqueta	Detecta	Método de detecção
class.email_address	Endereço de e-mail	Regex
class.ip_address	Endereço IP	Regex
class.mac_address	Endereço MAC	Regex
class.vin	Número de identificação do veículo	Regex + dígito de verificação + palavras-chave de contexto
class.credit_card	Número do cartão de crédito	Regex + checksum Luhn
class.iban_code	Número Internacional de Conta Bancária	Regex + checksum ISO 7064
class.phone_number	Número de telefone	Regex + palavras-chave de contexto

Etiqueta	Detecta	Método de detecção
class.email_address	Endereço de e-mail	Regex
class.ip_address	Endereço IP	Regex
class.mac_address	Endereço MAC	Regex
class.vin	Número de identificação do veículo	Regex + dígito de verificação + palavras-chave de contexto
class.credit_card	Número do cartão de crédito	Regex + checksum Luhn
class.iban_code	Número Internacional de Conta Bancária	Regex + checksum ISO 7064
class.phone_number	Número de telefone	Regex + palavras-chave de contexto

Estados Unidos

Etiqueta	Detecta	Método de detecção
class.us_ssn	Número de Seguro Social dos EUA	Regex + palavras-chave de contexto
class.us_itin	US Individual Taxpayer Identification Number	Regex + palavras-chave de contexto
class.us_passport	Passaporte dos EUA	Regex + palavras-chave de contexto
class.us_bank_number	Número de conta bancária dos EUA	Regex + palavras-chave de contexto

Etiqueta	Detecta	Método de detecção
class.us_ssn	Número de Seguro Social dos EUA	Regex + palavras-chave de contexto
class.us_itin	US Individual Taxpayer Identification Number	Regex + palavras-chave de contexto
class.us_passport	Passaporte dos EUA	Regex + palavras-chave de contexto
class.us_bank_number	Número de conta bancária dos EUA	Regex + palavras-chave de contexto

Reino Unido

Etiqueta	Detecta	Método de detecção
class.uk_nhs	Número do NHS do Reino Unido	Regex + soma de verificação mod-11 + palavras-chave de contexto
class.uk_nino	Número de Seguro Nacional do Reino Unido	Regex

Etiqueta	Detecta	Método de detecção
class.uk_nhs	Número do NHS do Reino Unido	Regex + soma de verificação mod-11 + palavras-chave de contexto
class.uk_nino	Número de Seguro Nacional do Reino Unido	Regex

Índia

Etiqueta	Detecta	Método de detecção
class.in_pan	Número de conta permanente indiano	Regex
class.in_aadhaar	Número Aadhaar indiano	Regex + soma de verificação Verhoeff + palavras-chave de contexto

Etiqueta	Detecta	Método de detecção
class.in_pan	Número de conta permanente indiano	Regex
class.in_aadhaar	Número Aadhaar indiano	Regex + soma de verificação Verhoeff + palavras-chave de contexto

O que não é detectado

A detecção de dados confidenciais abrange dados estruturados que um padrão pode corresponder de forma confiável. Não detecta:

• Nomes, localizações e organizações , e outras entidades de texto livre que precisam de compreensão de linguagem para identificar. Detectá-los de forma confiável requer um modelo, não um padrão. Para cobrir este conteúdo, consulte Bloqueie outros dados confidenciais com um juiz do LLM.
• Identificadores que são apenas uma sequência de dígitos sem soma de verificação ou formato padrão , como alguns documentos de identidade nacionais e identificadores de dispositivos. Corresponder a estes apenas pela forma sinalizaria muito texto comum.

Precisão de detecção

A Detecção de dados confidenciais é ajustada de forma diferente para suas duas ações. A redação deve capturar o máximo possível de dados confidenciais, uma vez que um valor perdido é pior do que uma redação excessiva, portanto, ela é otimizada para revocação. Um bloqueio nega a solicitação diretamente, portanto, ele deve ser acionado apenas quando houver confiança, e é otimizado para precisão.

Em benchmarks públicos, a precisão do bloqueio é de 0,99 nas 15 categorias, portanto, os bloqueios raramente são acionados em conteúdo não confidencial, e a revocação da redação é de 0,96. A revocação está em ou perto de 1,0 para a maioria das categorias; ela é menor para alguns tipos, como números de passaporte dos EUA, onde os dados de benchmark apresentam grande variedade de formato, em vez de o detector perder valores bem formados.

A detecção é determinística e rápida. Isso adiciona bem menos de 50 ms a uma solicitação, mesmo em uma conversa grande (100 turnos).

Estes números provêm de fontes públicas: o dataset AI4Privacy pii-masking-200k, o gerador Faker e valores criados a partir das especificações de formato e dígito verificador publicados de cada identificador (por exemplo, as verificações Aadhaar Verhoeff e UK NHS mod-11).

Bloqueie outros dados confidenciais com um juiz do LLM

Para também capturar nomes e outros dados de texto livre que a Detecção de Dados Confidenciais não consegue identificar, adicione uma barreira de segurança com LLM como juiz personalizada ao mesmo serviço:

• Mantenha a Detecção de dados confidenciais em uma classificação inferior para redigir dados estruturados.
• Adicione o juiz do LLM em uma classificação mais alta para que ele avalie o conteúdo já redigido.
• Na instrução do juiz, descreva os dados confidenciais a serem sinalizados e diga para ignorar os placeholders de redação (como [US_SSN]) deixados pelo primeiro guardrail.

Exemplo de instrução do juiz

You are a data-privacy classifier for an AI gateway guardrail. Decide whether the content contains personal information about a private individual, such as a person's name (including a first name used to address or refer to someone), home or personal contact details, or other identifiers tied to that individual.

Set flagged to true whenever the content names or refers to a private individual, even if only a first name is given and no other identifying details are present. For example, a message addressed to "Kattie" or one that mentions a colleague by name contains personal information.

Do not flag:
- Public figures, executives, politicians, celebrities, or historical people named in a public, business, or newsworthy context (for example, Warren Buffett, Elon Musk).
- Companies, brands, organizations, funds, or institutions (for example, Morgan Stanley, Apple, Goldman Sachs).
- Redaction placeholders that already mask a value, such as [EMAIL_ADDRESS], [US_SSN], [PHONE_NUMBER], or any similar bracketed category token in square brackets; these have already been handled and are not personal information.
- Obvious placeholders that do not refer to a real person (for example, "John Doe", "test user").
- Content with no reference to an individual.

Limitações

Aplicam-se as seguintes limitações durante a versão Beta:

• A Detecção de Dados Sensíveis aplica-se a serviços de modelo e serviços de provedor de modelos.
• Somente as categorias listadas em Categorias suportadas são suportadas. Entidades de texto livre, como nomes, localizações ou organizações, não são suportadas. Consulte O que não é detectado.

Relacionado

• Políticas de serviço para itens protegíveis de AI
• Criar e anexar uma política de serviço
• Referência da função de política de serviço