Exigences d'atténuation des cas d'utilisation à haut risque d'OpenAI

Sur cette page, découvrez les exigences d'atténuation pour les cas d'utilisation à haut risque d'OpenAI. Vous êtes responsable de la mise en œuvre de ces exigences lorsque vous utilisez des modèles OpenAI sur Databricks.

Exigences d'atténuation

Les utilisateurs finaux doivent mettre en œuvre les exigences suivantes lors de l'utilisation d'OpenAI pour les cas d'utilisation à haut risque suivants :

Cas d'utilisation à haut risque	Description	Atténuation
Applications impliquant un chat ou des conversations	Applications qui permettent aux utilisateurs d'interagir avec un agent conversationnel	Vérifiez que ces applications sont pertinentes ou thématiques, ce qui signifie que les utilisateurs interagissant avec l'application n'ont pas un accès illimité pour query le modèle avec des entrées générales qui génèrent des sorties illimitées.
Applications accessibles aux utilisateurs externes à votre organisation		Authentifiez ou surveillez ces utilisateurs par l'un des mécanismes suivants : Authentification à deux facteurs ou multifactorielle. Enregistrement des ID des utilisateurs finaux individuels pour la visibilité et la remédiation. Journalisation des adresses IP individuelles pour la visibilité et la correction.
Applications impliquant des scénarios de génération de code ou de transformations		Effectuez un examen humain de tout code avant qu'il ne soit utilisé en production. Limitez les risques liés aux utilisateurs en restreignant la génération de code aux utilisateurs internes ou en mettant en œuvre le monitoring côté client pour les abus.
Applications permettant la saisie d'images		Vous devez vous assurer que ces entrées se limitent à des images à faible risque et thématiques.

Cas d'utilisation à haut risque	Description	Atténuation
Applications impliquant un chat ou des conversations	Applications qui permettent aux utilisateurs d'interagir avec un agent conversationnel	Vérifiez que ces applications sont pertinentes ou thématiques, ce qui signifie que les utilisateurs interagissant avec l'application n'ont pas un accès illimité pour query le modèle avec des entrées générales qui génèrent des sorties illimitées.
Applications accessibles aux utilisateurs externes à votre organisation		Authentifiez ou surveillez ces utilisateurs par l'un des mécanismes suivants : Authentification à deux facteurs ou multifactorielle. Enregistrement des ID des utilisateurs finaux individuels pour la visibilité et la remédiation. Journalisation des adresses IP individuelles pour la visibilité et la correction.
Applications impliquant des scénarios de génération de code ou de transformations		Effectuez un examen humain de tout code avant qu'il ne soit utilisé en production. Limitez les risques liés aux utilisateurs en restreignant la génération de code aux utilisateurs internes ou en mettant en œuvre le monitoring côté client pour les abus.
Applications permettant la saisie d'images		Vous devez vous assurer que ces entrées se limitent à des images à faible risque et thématiques.