OpenAIの高リスクユースケース緩和要件
このページでは、OpenAI の高リスクユースケースの緩和要件について説明します。DatabricksでOpenAIモデルを使用する場合は、これらの要件を実装する責任があります。
緩和要件
エンドユーザーは、次の高リスクのユースケースで OpenAI を使用する場合、次の要件を実装する必要があります。
高リスクのユースケース | 説明 | 緩和 |
---|---|---|
チャットや会話を伴うアプリケーション | ユーザーが会話エージェントと対話できるようにするアプリケーション | このようなアプリケーションが基礎的またはトピック的であることを確認します。つまり、アプリケーションを操作するユーザーには、制限のない出力を生成する一般的な入力を使用してモデルを照会するための無制限のアクセス権がありません。 |
組織外のユーザーがアクセスできるアプリケーション | 次のいずれかのメカニズムを使用して、このようなユーザーを認証または監視します。
| |
コード生成または変換シナリオを含むアプリケーション |
| |
画像入力を可能にするアプリケーション | このような入力は、リスクの低い話題の画像に限定する必要があります。 |