Détectez les données sensibles avec une politique de service

info

Bêta

Cette fonctionnalité est en version bêta. Les administrateurs de compte peuvent contrôler l'accès à cette fonctionnalité depuis la page Previews (Aperçus) de la console de compte. Consultez Gérer les aperçus Databricks.

La détection des données sensibles est une politique de service intégrée qui recherche les données sensibles, telles que les informations personnelles identifiables (PII), dans les requêtes et les réponses, et qui bloque l'interaction ou expurge la valeur correspondante sur place. Contrairement aux politiques intégrées LLM-as-a-judge, elle est déterministe et n'ajoute que peu de latence.

Vous attachez la détection de données sensibles à un Model Service ou à un Model Provider Service . Vous choisissez les catégories à rechercher et si une correspondance bloque l’interaction ou occulte la valeur.

Associer la politique

remarque

Pendant la version bêta, l’interface utilisateur de la politique pourrait changer. Si un libellé diffère de ces étapes, suivez les libellés dans le produit. Les champs Principals and scope ne sont pas encore configurables : une politique s’applique à tous les utilisateurs du compte sur le service.

Vous attachez la détection de données sensibles via l’interface utilisateur de Unity AI Gateway, de la même manière que vous attachez toute politique intégrée. Vous devez disposer de MANAGE sur le service cible. Pendant la version bêta, les politiques intégrées sont gérées par Databricks et n’apparaissent pas comme des fonctions que vous pouvez parcourir ou sur lesquelles vous pouvez accorder des droits dans le schéma system.ai ; il n’y a donc aucun privilège EXECUTE à définir ; vous sélectionnez la politique par son nom dans l’interface utilisateur.

1. Dans la barre latérale du workspace, cliquez sur AI Gateway .
2. Sélectionnez le service à gouverner. Soit un service de modèle sur le tab Models , soit un service de fournisseur de modèle sur le tab Providers .
3. Ouvrez l’onglet Policies , puis cliquez sur New policy .
4. Saisissez un nom pour la politique.
5. Dans Type de garde-fou , sélectionnez Détection des données sensibles .
6. Sélectionnez les tags de classification à détecter et choisissez si une correspondance bloque l'interaction ou masque les valeurs correspondantes.
7. Sous Phase , sélectionnez Entrée , Sortie , ou les deux.
8. Définissez le Rank pour contrôler l'ordre d'évaluation par rapport aux autres politiques sur le service. Consultez Ordre d'évaluation.
9. Cliquez sur Create policy .

La politique apparaît sous l'onglet Policies du service. Pendant la version bêta, prévoyez un court délai pour la propagation avant d'effectuer vos tests.

Comment fonctionne la politique

Lorsque vous associez la politique, vous définissez trois éléments :

• Catégories (obligatoire) : les types de données sensibles à détecter. Consultez Catégories prises en charge.

• Action : ce qui se passe en cas de correspondance.

  • Blocage : Databricks refuse l'interaction. Au lieu d'une erreur, l'appelant reçoit une réponse réussie (HTTP 200) dont le tour d'assistant nomme la politique de service qui a bloqué, et un objet databricks_service_policy de haut niveau porte le bloc reason, qui nomme les catégories correspondantes, par exemple Detected sensitive data (US_SSN, CREDIT_CARD).
  • Expurger : Databricks remplace chaque valeur correspondante par un jeton d'espace réservé, tel que [US_SSN], et transmet le contenu réécrit. Lors d'une requête, le modèle reçoit le texte expurgé. Lors d'une réponse, l'appelant la reçoit. La stratégie intégrée transforme le contenu plutôt que de simplement renvoyer une décision.

• Phase : indique si la politique s’exécute sur l’entrée, la sortie ou les deux.

La détection étant déterministe, Databricks ajuste le blocage et la rédaction séparément. La rédaction se déclenche sur le format de la catégorie, plus une somme de contrôle lorsqu'elle s'applique, ce qui favorise une détection plus large. Le blocage est plus strict pour les catégories qui ne sont qu'une suite de chiffres, car il nécessite une somme de contrôle ou un mot de contexte à proximité, afin qu'un nombre aléatoire ne refuse pas une demande. Les formats distinctifs tels que les e-mails et les adresses IP bloquent sur la correspondance seule.

Catégories prises en charge

La détection de données sensibles détecte les 15 catégories suivantes, regroupées par juridiction. Dans le champ Étiquettes de classification , sélectionnez les tags que vous souhaitez détecter. Chacun est répertorié dans la colonne Tag ci-dessous, par exemple, class.us_ssn. Consultez les tags système de classification des données pour connaître les valeurs de tag acceptées.

La colonne Detection method montre comment Databricks identifie chaque catégorie :

• Regex : une correspondance de modèle sur le format de la valeur.
• Somme de contrôle : vérification de validation sur la valeur correspondante, telle que la vérification de Luhn sur un numéro de carte, qui rejette les valeurs correspondant au format mais ne pouvant pas être valides.
• Mots-clés de contexte : un mot associé doit apparaître près de la correspondance, par exemple « SSN » près d'un nombre à neuf chiffres. Comme un nombre seul est ambigu, ces catégories nécessitent un mot-clé à proximité pour bloquer , bien que la rédaction se déclenche toujours sur le format seul.

Identifiants globaux

Tag	Détecte	Méthode de détection
class.email_address	Adresse e-mail	Regex
class.ip_address	Adresse IP	Regex
class.mac_address	Adresse MAC	Regex
class.vin	Numéro d’identification du véhicule	Regex + chiffre de contrôle + mots clés de contexte
class.credit_card	Numéro de carte de crédit	Regex + somme de contrôle de Luhn
class.iban_code	Numéro de compte bancaire international	Regex + somme de contrôle ISO 7064
class.phone_number	Numéro de téléphone	Regex + mots clés de contexte

Tag	Détecte	Méthode de détection
class.email_address	Adresse e-mail	Regex
class.ip_address	Adresse IP	Regex
class.mac_address	Adresse MAC	Regex
class.vin	Numéro d’identification du véhicule	Regex + chiffre de contrôle + mots clés de contexte
class.credit_card	Numéro de carte de crédit	Regex + somme de contrôle de Luhn
class.iban_code	Numéro de compte bancaire international	Regex + somme de contrôle ISO 7064
class.phone_number	Numéro de téléphone	Regex + mots clés de contexte

États-Unis

Tag	Détecte	Méthode de détection
class.us_ssn	Numéro de sécurité sociale américain	Regex + mots clés de contexte
class.us_itin	Numéro d'identification fiscale individuelle des États-Unis	Regex + mots clés de contexte
class.us_passport	Passeport américain	Regex + mots clés de contexte
class.us_bank_number	Numéro de compte bancaire américain	Regex + mots clés de contexte

Tag	Détecte	Méthode de détection
class.us_ssn	Numéro de sécurité sociale américain	Regex + mots clés de contexte
class.us_itin	Numéro d'identification fiscale individuelle des États-Unis	Regex + mots clés de contexte
class.us_passport	Passeport américain	Regex + mots clés de contexte
class.us_bank_number	Numéro de compte bancaire américain	Regex + mots clés de contexte

Royaume-Uni

Tag	Détecte	Méthode de détection
class.uk_nhs	Numéro NHS britannique	Regex + somme de contrôle mod-11 + mots clés de contexte
class.uk_nino	Numéro d'assurance nationale britannique	Regex

Tag	Détecte	Méthode de détection
class.uk_nhs	Numéro NHS britannique	Regex + somme de contrôle mod-11 + mots clés de contexte
class.uk_nino	Numéro d'assurance nationale britannique	Regex

Inde

Tag	Détecte	Méthode de détection
class.in_pan	Numéro de compte permanent indien	Regex
class.in_aadhaar	Numéro Aadhaar indien	Regex + somme de contrôle Verhoeff + mots clés de contexte

Tag	Détecte	Méthode de détection
class.in_pan	Numéro de compte permanent indien	Regex
class.in_aadhaar	Numéro Aadhaar indien	Regex + somme de contrôle Verhoeff + mots clés de contexte

Ce qui n'est pas détecté

La détection des données sensibles couvre les données structurées qu’un modèle peut identifier de manière fiable. Il ne détecte pas :

• Noms, lieux et organisations , ainsi que d'autres entités en texte libre nécessitant une compréhension du langage pour être identifiées. Pour les détecter de manière fiable, un modèle est nécessaire, et non un motif. Pour couvrir ce contenu, consultez Bloquer d'autres données sensibles avec un juge LLM.
• Identifiants composés uniquement d’une suite de chiffres sans somme de contrôle ni format standard , tels que certains identifiants nationaux et identifiants d’appareil. Les faire correspondre uniquement sur la forme signalerait trop de texte ordinaire.

Précision de la détection

La détection des données sensibles est configurée différemment pour ses deux actions. La rédaction doit capturer autant de données sensibles que possible, car une valeur manquée est pire qu’une sur-rédaction ; elle est donc optimisée pour le rappel. Un blocage refuse la demande purement et simplement ; il ne doit donc être déclenché qu’en cas de certitude et est optimisé pour la précision.

Sur les benchmarks publics, la précision des blocs est de 0,99 sur les 15 catégories ; les blocs se déclenchent donc rarement sur du contenu non sensible, et le rappel de masquage est de 0,96. Le rappel est égal ou proche de 1,0 pour la plupart des catégories ; il est plus faible pour quelques types, comme les numéros de passeport américain, où les données de benchmark présentent une grande variété de formats plutôt qu’une absence de valeurs bien formées détectées par l’outil.

La détection est déterministe et rapide. Cela ajoute bien moins de 50 ms à une requête, même sur une conversation importante (100 tours).

Ces chiffres proviennent de sources publiques : le dataset AI4Privacy pii-masking-200k, le générateur Faker et des valeurs basées sur les spécifications de format et les chiffres de contrôle publiés pour chaque identifiant (par exemple, les contrôles Aadhaar Verhoeff et UK NHS mod-11).

Bloquez d'autres données sensibles avec un juge LLM

Pour capturer également les noms et autres données en texte libre que la détection de données sensibles ne peut pas identifier, ajoutez un garde-fou LLM-as-a-judge personnalisé au même service :

• Maintenez la détection des données sensibles à un rang inférieur pour masquer les données structurées.
• Ajoutez le juge LLM à un rang supérieur afin qu’il évalue le contenu déjà expurgé.
• Dans l'instruction du juge, décrivez les données sensibles à signaler et demandez-lui d'ignorer les placeholders de masquage (tels que [US_SSN]) laissés par la première barrière de sécurité.

Exemple d'instruction de juge

You are a data-privacy classifier for an AI gateway guardrail. Decide whether the content contains personal information about a private individual, such as a person's name (including a first name used to address or refer to someone), home or personal contact details, or other identifiers tied to that individual.

Set flagged to true whenever the content names or refers to a private individual, even if only a first name is given and no other identifying details are present. For example, a message addressed to "Kattie" or one that mentions a colleague by name contains personal information.

Do not flag:
- Public figures, executives, politicians, celebrities, or historical people named in a public, business, or newsworthy context (for example, Warren Buffett, Elon Musk).
- Companies, brands, organizations, funds, or institutions (for example, Morgan Stanley, Apple, Goldman Sachs).
- Redaction placeholders that already mask a value, such as [EMAIL_ADDRESS], [US_SSN], [PHONE_NUMBER], or any similar bracketed category token in square brackets; these have already been handled and are not personal information.
- Obvious placeholders that do not refer to a real person (for example, "John Doe", "test user").
- Content with no reference to an individual.

Limitations

Les limitations suivantes s'appliquent pendant la version bêta :

• La détection de données sensibles s'applique aux services de modèle et aux services de fournisseur de modèle.
• Seules les catégories répertoriées dans Catégories prises en charge sont prises en charge. Les entités en texte libre telles que les noms, les lieux ou les organisations ne sont pas prises en charge. Consultez Ce qui n'est pas détecté.

Connexes

• Politiques de service pour les éléments sécurisables de l'IA
• Créer et associer une politique de service
• Référence des fonctions de politique de service