Requisitos de mitigação de casos de uso de alto risco do OpenAI

Nesta página, saiba mais sobre os requisitos de mitigação para casos de uso de alto risco do OpenAI. Você é responsável por implementar esses requisitos ao usar modelos OpenAI no Databricks

Requisitos de mitigação

Os usuários finais devem implementar os seguintes requisitos ao usar o OpenAI para os seguintes casos de uso de alto risco:

Caso de uso de alto risco	Descrição	Mitigação
Aplicações que envolvem chat ou conversas	Aplicativos que permitem aos usuários interagir com um agente de conversação	Verifique se tais aplicativos são fundamentados ou tópicos, o que significa que os usuários que interagem com o aplicativo não têm acesso irrestrito para consultar o modelo com entradas gerais que geram saídas irrestritas.
Aplicativos acessíveis a usuários fora da sua organização		Autentique ou monitore esses usuários por meio de um dos seguintes mecanismos: Autenticação de dois fatores ou multifator. Registro de IDs de usuários finais individuais para visibilidade e correção. Registro de endereços IP individuais para visibilidade e correção.
Aplicações envolvendo geração de código ou cenários de transformações		Realize uma revisão humana de qualquer código antes que ele seja usado em produção. Limite o risco baseado no usuário restringindo a geração de código a usuários internos ou implementando o monitoramento do lado do cliente para detectar uso indevido.
Aplicações que permitem entradas de imagens		Você deve garantir que tais entradas sejam restritas a imagens de baixo risco e temáticas.