Configurer Unity AI Gateway sur les Endpoint de service de modèle

remarque

Cette fonctionnalité est en préversion.

Dans cet article, vous apprendrez à configurer Unity AI Gateway sur un Endpoint de service de Modèle.

Exigences

• Un workspace Databricks dans l'une des régions suivantes :

  • Une région prise en charge par les modèles externes
  • Une région prise en charge par les APIs de modèle de fondation pour le throughput provisionné ou le paiement par jeton.

• Un Endpoint de service de modèle. Vous pouvez utiliser l'un des Endpoint de paiement par jeton préconfigurés sur votre workspace.

Configurer la passerelle d'IA Unity à l'aide de l'interface utilisateur

Dans la section AI Gateway de la page de création d'Endpoint, vous pouvez configurer individuellement les fonctionnalités de Unity AI Gateway.

Le tableau suivant récapitule comment configurer la passerelle IA Unity lors de la création d'un Endpoint à l'aide de l'interface utilisateur de Serving.

Configurez les Garde-fous IA dans l'interface utilisateur.

Le tableau suivant montre comment configurer les garde-fous pris en charge.

Garde-fou	Comment activer	Détails
Sécurité	Sélectionnez Sécurité pour activer les garde-fous afin d'empêcher votre modèle d'interagir avec du contenu dangereux et nuisible.
Détection des informations personnellement identifiables (PII)	Sélectionnez Détection des PII pour détecter les données PII, telles que les noms, adresses et numéros de carte de crédit.
Sujets valides	Vous pouvez saisir des sujets directement dans ce champ. Si vous avez plusieurs entrées, assurez-vous d'appuyer sur Entrée après chaque sujet. Vous pouvez également upload un fichier .csv ou .txt.	Un maximum de 50 sujets valides peut être spécifié. Chaque sujet ne peut pas dépasser 100 caractères.
Mots-clés non valides	Vous pouvez saisir des sujets directement dans ce champ. Si vous avez plusieurs entrées, assurez-vous d'appuyer sur Entrée après chaque sujet. Vous pouvez également upload un fichier .csv ou .txt.	Un maximum de 50 mots-clés non valides peut être spécifié. Chaque mot-clé ne peut pas dépasser 100 caractères.

Garde-fou	Comment activer	Détails
Sécurité	Sélectionnez Sécurité pour activer les garde-fous afin d'empêcher votre modèle d'interagir avec du contenu dangereux et nuisible.
Détection des informations personnellement identifiables (PII)	Sélectionnez Détection des PII pour détecter les données PII, telles que les noms, adresses et numéros de carte de crédit.
Sujets valides	Vous pouvez saisir des sujets directement dans ce champ. Si vous avez plusieurs entrées, assurez-vous d'appuyer sur Entrée après chaque sujet. Vous pouvez également upload un fichier .csv ou .txt.	Un maximum de 50 sujets valides peut être spécifié. Chaque sujet ne peut pas dépasser 100 caractères.
Mots-clés non valides	Vous pouvez saisir des sujets directement dans ce champ. Si vous avez plusieurs entrées, assurez-vous d'appuyer sur Entrée après chaque sujet. Vous pouvez également upload un fichier .csv ou .txt.	Un maximum de 50 mots-clés non valides peut être spécifié. Chaque mot-clé ne peut pas dépasser 100 caractères.