OpenAIの高リスクユースケース緩和要件

このページでは、OpenAI の高リスクユースケースの緩和要件について説明します。DatabricksでOpenAIモデルを使用する場合は、これらの要件を実装する責任があります。

緩和要件

エンドユーザーは、次の高リスクのユースケースで OpenAI を使用する場合、次の要件を実装する必要があります。

高リスクのユースケース	説明	緩和
チャットや会話を伴うアプリケーション	ユーザーが会話エージェントと対話できるようにするアプリケーション	このようなアプリケーションが基礎的またはトピック的であることを確認します。つまり、アプリケーションを操作するユーザーには、制限のない出力を生成する一般的な入力を使用してモデルを照会するための無制限のアクセス権がありません。
組織外のユーザーがアクセスできるアプリケーション		次のいずれかのメカニズムを使用して、このようなユーザーを認証または監視します。 2 要素認証または多要素認証。 可視性と修復のために個々のエンドユーザー ID をログに記録します。 可視性と修復のために個々の IP アドレスをログに記録します。
コード生成または変換シナリオを含むアプリケーション		本番運用でコードを使用する前に、コードを人によるレビューを実施します。 コード生成を内部ユーザーに制限するか、悪用に対するクライアント側のモニタリングを実装することで、ユーザーベースのリスクを制限します。
画像入力を可能にするアプリケーション		このような入力は、リスクの低い話題の画像に限定する必要があります。