メインコンテンツまでスキップ

AIセキュリティ保護対象のサービスポリシー

備考

ベータ版

この機能はベータ版です。ワークスペース管理者は、 Unity Gateway サービス ポリシー プレビューにオプトインすることで、 プレビュー ページからこの機能へのアクセスを制御できます。ワークスペースレベルのプレビューの管理を参照してください。

サービスポリシーを使用すると、Unity Catalog に登録された AI サービスとのやり取りの内容を管理できます。これには、Databricks でホストされているモデルだけでなく、任意のプロバイダーの外部 MCP サーバーやモデルも含まれます。Unity Catalog の付与は、プリンシパルがサービスを呼び出すことができる かどうか を決定します。サービスポリシーは、リクエストとレスポンスの内容、および誰が呼び出しを行っているかに基づいて、そのやり取りが どのように 進むかを決定します。

サービスポリシーは、AI サービスにガードレールを実装するためのメカニズムです。機密データのブロック、プロンプトインジェクション、安全でないコンテンツなどのガードレールを追加する場合、サービスポリシーがそのメカニズムになります。Databricks には一般的なリスクに対する組み込みのガードレールがあります。組織固有のルールについてはカスタムポリシーを作成できます。外部サービスポリシーを使用してサードパーティのガードレールベンダーの決定を適用できます。

これは、エージェントがユーザーに代わって動作する場合に最も重要になります。エージェントはユーザーがアクセスできるすべてのものを継承し、サービスは外部システムにアクセスすることがよくあります。サービスポリシーを使用すると、そのアクティビティにガードレールを設定できます。たとえば、MCPサービスを介してエージェントがGitリポジトリにコードをプッシュする前にユーザーの同意を要求したり、個人を特定できる情報(PII)が含まれるモデルレスポンスを拒否したり、安全ではないコンテンツをブロックしたりできます。

Custom ポリシー can also check and enforce the presence or absence of caller-supplied request タグ.See Require an eligible project and the request タグ reference.

サービスポリシーは、Unity Catalog における 3 種類の属性ベースのアクセス制御(ABAC)ポリシーの 1 つです。

  • ABAC GRANT ポリシーは、管理タグが条件に一致するセキュリティ保護可能なオブジェクトに対して Unity Catalog の権限を付与します。これらは、プリンシパルがオブジェクトに到達できるかどうかを制御します。
  • 行フィルターと列マスクのポリシーは、プリンシパルがテーブル内のどの行と列を表示できるかを制御します。
  • サービスポリシーは、AIサービスへの各リクエストおよびレスポンスのコンテンツを管理し、それを許可または拒否します。MCPサービスでは、ポリシーによって承認のために入力リクエストを保留することもできます。

ABACのGRANTポリシーはアクセス制御です。行フィルター、列マスクの各ポリシーおよびサービスポリシーは コンテンツ ポリシーであり、プリンシパルがアクセスした後の動作を制御します。行フィルターや列マスクと同様に、カスタムSQLサービスポリシーは、ガバナンスロジックを含むUnity Catalog関数を参照し、それをセキュア可能オブジェクトにアタッチします。

サービスポリシーがUnity Catalogの付与を補完する方法​

Unity Catalogの権限とサービスポリシーは、異なるガバナンスの課題に対応し、異なる適用ポイントで運用されます。

観点

Unity Catalog の権限

サービスポリシー

質問への回答

このプリンシパルはこのサービスを呼び出すことができますか?

このインタラクションはどのように進行すべきですか?

入力

プリンシパルの識別情報と付与された権限

リクエストコンテンツ、レスポンスコンテンツ、リクエストタグ、ツールアノテーション、およびアクターコンテキスト

適用ポイント

リクエストがサービスに到達する前に

サービスが呼び出される前(入力フェーズ、ON CALL)およびサービスが応答した後(出力フェーズ、ON RESULT)

粒度

プリンシパルごと、セキュリティ保護可能なオブジェクトごと

リクエストごとに、コンテンツとコンテキストに基づいて

観点

Unity Catalog の権限

サービスポリシー

質問への回答

このプリンシパルはこのサービスを呼び出すことができますか?

このインタラクションはどのように進行すべきですか?

入力

プリンシパルの識別情報と付与された権限

リクエストコンテンツ、レスポンスコンテンツ、リクエストタグ、ツールアノテーション、およびアクターコンテキスト

適用ポイント

リクエストがサービスに到達する前に

サービスが呼び出される前(入力フェーズ、ON CALL)およびサービスが応答した後(出力フェーズ、ON RESULT)

粒度

プリンシパルごと、セキュリティ保護可能なオブジェクトごと

リクエストごとに、コンテンツとコンテキストに基づいて

サービスポリシーはUnity Catalogの権限を置き換えるものではありません。プリンシパルは、サービスを呼び出すためにまず適切なUnity Catalog権限を持っている必要があります。サービスポリシーは、各インタラクションのコンテンツを評価し、追加のガバナンスルールを適用します。

ポリシー決定​

サービスポリシーはリクエストまたはレスポンスの内容を評価し、次の3つの結果のいずれかを返します。

  • 許可 :インタラクションが進行します。
  • DENY : ポリシーはインタラクションをブロックします。チャットスタイルのモデル APIsの場合、エラー状態の代わりに、Databricksは成功(HTTP 200)応答を返します。ModelサービスまたはModel Providerサービスの場合、アシスタントターンにはブロックしたサービスポリシーを示す短いメッセージが含まれ、トップレベルのdatabricks_service_policyオブジェクトにはブロックreasonを含む構造化された詳細が含まれます。ブロックを通常のターンとして返すことで、コーディングエージェントのように全履歴を再送信する会話型クライアントが、その後のすべてのターンで同じブロックを再Triggerするのを防ぎます。埋め込み入力拒否はHTTP 400を返し、モデルがランする前にリクエスト全体をブロックします。MCP サービスの場合、レスポンスはerror.message内のブロックreasonを含むJSON-RPCエラーになります。
  • ASK : MCP サービスの場合、ポリシーはツールを実行する前にユーザーの承認を求めるリクエストを停止する。ユーザーが破壊的な MCP ツール呼び出しなどの機密操作を承認する必要がある場合に、このアクションを使用します。MCP サービスを呼び出す外部エージェントの場合、承認プロンプトは MCP URL モードのエリシテーションを通じて配信されます。カスタム ポリシー関数がモデル サービスまたはモデル プロバイダー サービスに対して ASK を返す場合、Databricks はこれらのサービスがユーザーに承認を求めることができないため、リクエストまたはレスポンスをブロックします。決定を返すを参照してください。

カスタムポリシーは、インタベーショングイベント(アクター、リクエストまたはレスポンスの内容を含む)を受信して決定結果を返すSQLユーザー定義関数(UDF)、または自然言語で記述した基準に基づいてコンテンツを分類するLLM-as-a-judgeポリシーのいずれかです。組み込みポリシーは Databricks によって管理され、外部サービスポリシーによってコンテンツがサードパーティのガードレールサービスに送信され、決定結果が返されます。

カスタムポリシーは、Python UDF にすることもできます。

評価ポイント​

Databricksは、MCPツール呼び出しおよびサポートされているモデルAPIリクエストについて、以下の時点でサービスポリシーを評価します:

  • 入力 (ON CALL): Databricks がサービスを呼び出す前、リクエストに対して。このフェーズを使用して、リクエストが基盤となるサービスに到達する前にリクエストを検査します。たとえば、破壊的な MCP ツールを呼び出すリクエストをブロックしたり、機密データを含むプロンプトがモデルに到達する前に拒否したりします。
  • 出力(ON RESULT):サービスが応答した後、その応答に対して実行されます。このフェーズを使用して、応答が呼び出し元に返される前に検査します。例えば、幻覚コンテンツや機密データを含むレスポンスをブロックします。

埋め込みリクエストは、入力フェーズのみをサポートします。結果のベクトルを評価するポリシーはありません。

モデルサービスおよびモデルプロバイダーサービスでは、出力ポリシーが生成時にストリーミング応答をチェックし、モデルが終了する前に承認されたテキストをリリースできます。ストリーミング応答を参照してください。

チャットスタイルのモデルAPIおよびMCPツール呼び出しの場合、カスタムポリシー関数が両方のポイントでランされます。現在のフェーズ (event:type) を検査し、どのように動作するかを決定するため、単一のポリシーで要求、応答、またはその両方を制御できます。単一のフェーズで実行するには、関数本体でevent:typeに Branch します。組み込みポリシーとカスタム LLM-as-a-judge ポリシーについては、ポリシーフォームの Phase 設定でフェーズを代わりに選択します。一部の組み込みポリシーは、サービスによって異なるフェーズをサポートしています。Jailbreakガードレールは、モデルおよびモデルプロバイダーサービスの入力フェーズでのみランされ、MCPサービスでは入力、出力、またはその両方でランされます。ポリシーフォームはMCPサービスのJailbreakの出力を事前選択しますが、API呼び出し元はポリシーの options.phases 要求フィールドを pre_call (入力)、 post_call (出力)、または pre_call,post_call (両方) に明示的に設定する必要があります。ハルシネーションの検出は、出力フェーズでのみランされます。外部サービスポリシーのスコープもフェーズによって決まります。ポリシーを添付する際に、入力フェーズ、出力フェーズ、またはその両方を選択します。

評価順序​

1つのサービスに複数のサービスポリシーをアタッチできます。各アタッチメントにはランク (優先度) があり、特定のランクの DENY は後のランクの評価を停止します。Databricksは、入力フェーズ (ON CALL、最も低いランクが最初) で昇順に、出力フェーズ (ON RESULT) で降順にランクを評価します。同じランクのポリシーは、以下に示すように2段階で評価されます。異なるランクを使用して評価順序を制御します。

ランク内の評価​

チャット形式のモデルAPIとMCPツール呼び出しの場合、Databricksは次の2つの段階で同じランクのポリシーを評価します。

  1. Blocking LLM-as-a-judge ポリシーは並行して実行されます。これらは、不安全なコンテンツの検出など、(DENY)コンテンツをブロックする組み込みおよびカスタム LLM-as-a-judge ポリシーです。これらはモデルによってサポートされるチェックであるため、これらを同時に実行すると、追加の遅延はそれらの合計ではなく、最も低速な単一の評価の遅延とほぼ同じになります。
  2. 残りのポリシーは順次実行されますが、最初の段階のポリシーがいずれも DENY を返さなかった場合のみ実行されます。この段階では、カスタム ポリシー関数、外部サービス ポリシー、system.ai.detect_sensitive_data 組み込みポリシー、および承認のために一時停止するポリシー (ASK) がカバーされます。これには、ブロックするのではなく質問するように設定された LLM-as-a-judge ポリシーも含まれます。この段階内での順序は定義されていません。ASK は、MCP サービスに対してのみ入力呼び出しを一時停止します。モデル サービスおよびモデル プロバイダー サービスの場合、ASK はリクエストまたはレスポンスをブロックします。

並列ステージのDENYは、順次ステージをスキップします。順次ステージはDENYで停止しません。DENYを返すポリシーがあった後も、そのステージ内のすべてのポリシーが実行されます。たとえば、リクエストを拒否するカスタムSQLポリシーがあっても、同じランクの外部サービス ポリシーがコンテンツをベンダーに送信するのを妨げることはありません。いずれかのステージでDENYが発生すると、それより後のランクでの評価が停止します。そのため、別のポリシーが拒否したときにポリシーをスキップするには、拒否するポリシーを先に評価されるランクに配置してください。

埋め込みリクエストの場合、同じランクのブロッキングジャッジは一度に1つずつランされ、最大4つの入力項目が同時にチェックされます。ジャッジDENYは、そのランクの残りのポリシーをスキップします。ジャッジの呼び出しとレイテンシへの影響については、埋め込み入力ガードレールを参照してください。

次の図は、2つのフェーズがサービスの周囲にどのように配置されているか、そして各決定が何をするかを示しています。

サービスポリシーは、AIサービスの前の入力フェーズ(ON CALL)でリクエストをチェックし、AIサービスの後の出力フェーズ(ON RESULT)でレスポンスをチェックします。両方のフェーズでALLOWまたはDENYを実行できます。MCPサービスの場合、入力フェーズでユーザーの承認をASK(要求)することもできます。

特定のサービスにアタッチされているポリシーとその実行順序を確認するには、サービスの[ ポリシー ]tabを開き、[ 実行フローを表示 ]をクリックします。

ストリーミング応答(ベータ)​

備考

ベータ版

ストリーミングの評価は ベータ版 です。これは Unity Gateway サービスポリシー プレビューの一部であり、個別のトグルはありません。ワークスペース レベルのプレビューを管理するを参照してください。

モデルサービスおよびモデルプロバイダーサービスでは、各ポリシーに「 応答の評価 」設定があり、出力ポリシーがストリーミングリクエストを処理する方法を制御します:

  • ストリーミング評価 :default。出力ポリシーはモデルが応答を生成するときに応答をチェックし、Databricksはモデルが終了する前に承認されたテキストをリリースします。
  • 完全な回答の評価 :出力ポリシーは、回答がリリースされる前に、回答全体を評価します。

既存のポリシーでも、defaultでストリーミング評価が使用されます。応答全体が通過するまでクライアントにテキストが送信されない場合、またはカスタムポリシーで完全な回答やトークン使用量などの最終フィールドが必要な場合は、 応答全体の評価 を選択します。

リクエストに適用される出力ポリシーのいずれかが、 Logs モードのポリシーを含め、応答全体の評価を使用する場合、すべての出力ポリシーが完全な応答を評価します。チャット形式のリクエストでは、カスタムSQLポリシーとPythonポリシーは両方のフェーズでランされるため、それらの設定も考慮されます。ストリーミング評価では、それらの関数はリクエストに対してのみロジックが機能する場合でも各ウィンドウでランされます。この設定は、入力のみのポリシーには影響しません。

ストリーミング評価は、サポートされているチャットスタイルのモデル APIs へのストリーミングリクエストに適用されます。出力ポリシーは、非ストリーミングチャットスタイルのリクエストと MCP ツールの結果に対して完全な応答評価を使用します。APIで、ポリシーの stream_mode フィールドを、ストリーミング評価の場合は STREAM_MODE_WINDOWED_SYNC に、完全なレスポンス評価の場合は STREAM_MODE_FULLY_BUFFERED に設定します。このフィールドを省略すると、ストリーミング評価が選択されます。MCP サービスはフィールドを拒否します。

ストリーミング評価のしくみ​

ストリーミング評価では、Databricksはモデルの出力を保持し、重複するウィンドウでチェックします:

  1. default設定では、Databricks は数百文字が新しく到着するたびに出力ポリシーをランします。ストリームが低速の場合、約1秒後に次のチャンクもチェックをTriggerできます。リクエストごとに一度にランされるチェックは1つだけです。
  2. 各チェックは、最近の応答テキスト(通常は最後の16,000文字)と、それより長い未リリースのテキストをすべて再読み込みします。このオーバーラップにより、ポリシーは最新のテキストだけでなく、以前のウィンドウのコンテキストも取得できます。
  3. ウィンドウが経過すると、Databricks は承認されたテキストをリリースします。通常、後でチェックされるか、ストリームが完了するまで短い末尾が保持されます。これは、ポリシーが完全な値を認識する前に機密値の一部がリリースされる可能性を減らします。
  4. 完了すると、Databricksは、利用可能な場合のトークン使用量など、残りの出力または変更された完了メタデータを評価します。最初のクライアントツールの呼び出し以降、応答の残りは最終的な承認を待ちます。
  5. ポリシーが応答を拒否した場合、Databricks は未リリースのテキストを保持し、サービス ポリシーが応答をブロックしたというメッセージを追加して、ストリームを終了します。既にリリースされたテキストはクライアントに残ります。

次の例は、保持された末尾を使用したオーバーラップチェックを示しています。

ストリーミング評価では、以前のテキストを読み直し、短い末尾部分を保持します。拒否によって、未公開のテキストが保留され、ブロックメッセージが追加されます。

各リリースがポリシーの完了を待機するため、テキストはトークンごとではなく、バースト単位でクライアントに届きます。保持された末尾は境界リスクを軽減しますが、機密コンテンツがクライアントに到達できないことを保証するものではありません。

組み込みサービスポリシー​

Databricks は、system.ai 名前空間の下で組み込みのサービスポリシーを提供します。これらは、カスタム SQL を使用せずに一般的なガバナンスシナリオをカバーします。Databricks AI ガードレール は、組み込みのサービスポリシーです。これは、カスタムポリシーと同じ方法でアタッチできる、事前構成済みの Databricks 管理ポリシー(安全でないコンテンツやジェイルブレイクの検出など)です。

  • system.ai.block_unsafe_content: 安全でない、または有害なコンテンツを含むインタラクションを拒否します。
  • system.ai.block_jailbreak:ジェイルブレイクとプロンプトインジェクションのコンテンツを検出します。Model サービスおよびModel Provider サービスでは、モデル入力のみを評価します。MCP サービスでは、入力時にツール呼び出しと引数を、出力時にツールの結果を、またはその両方を評価できます。
  • system.ai.block_hallucination:ハルシネーションを含む応答を拒否します。
  • system.ai.detect_sensitive_data:構造化された機密データ(クレジットカード番号や社会保障番号など)を検出し、インタラクションを拒否するか、一致する値をマスクします。他のものとは異なり、決定論的(パターンベースであり、評価モデルは不要)であり、拒否するだけでなくマスクすることもできます。サービスポリシーで機密データを検出するを参照してください。

組み込みポリシーを使用するには、それをサービスにアタッチします。ターゲットサービス上でMANAGEが必要です。

注記

組み込みのポリシーは Databricks によって管理されており、Catalog Explorer の system.ai スキーマで参照できる関数としては表示されません。サービスポリシーの作成とアタッチで説明されているように、Unity Gateway UI を使用して名前で選択し、アタッチします。

組み込みサービス ポリシーの仕組み​

組み込みのサービスポリシーには 2 種類あります。LLM-as-a-judge 組み込みはそれぞれ、Databricks がキュレートしたプロンプトを評価モデルに対して実行し、コンテンツがポリシーに違反していないかを判断します。機密データの検出は決定的です。パターンとチェックサムを照合するだけで、評価モデルは使用しません。

評価者モデルサービス​

各組み込みサービスポリシーは、コンテンツを判定するモデルである 評価器モデルサービス 上でプロンプトを実行します。Databricksによってdefaultの評価器が事前選択されるため、セットアップは不要です。別のモデルを使用するには、ポリシーをアタッチするときに 詳細オプション を展開して選択します。選択したモデルサービスに対するEXECUTEと、そのカタログおよびスキーマに対するUSE CATALOGおよびUSE SCHEMAが必要です。モデルサービスへのアクセスを許可するを参照してください。Databricksはポリシーのアタッチ時にこのアクセスを確認するため、保護されたサービスの呼び出し元が評価器へのアクセス権を持つ必要はありません。評価器は保護しているサービスとは別個のものであるため、ポリシーでは、評価器として別のモデルを使用して、1つのモデルサービスへのリクエストを評価できます。

Databricksは、読み取り専用であるポリシーのプロンプトを管理しています。評価者が適用する正確な基準を確認するには、ポリシーをアタッチした際に プロンプト の下でご覧いただけます。

評価器が受け取るもの​

組み込みサービスポリシーが実行されると、Databricksは評価器に2つの部分からなるリクエストを送信します:機会

  • ポリシープロンプトと出力コントラクト(次のセクションで説明)を含む システムメッセージ 。
  • 評価対象のコンテンツを含む ユーザーメッセージ 。入力フェーズでは、モデルまたはモデルプロバイダーサービスの最新のユーザーメッセージと、最近の会話ターンのウィンドウ(下記参照)、またはMCPサービスのツール呼び出しとその引数になります。出力フェーズでは、モデルの応答、またはツールがランした後のMCPツールの結果になります。

評価者は、デコードされた画像または音声のペイロードではなく、シリアル化されたテキストを受け取ります。出力フェーズおよびMCPサービスでは、抽出されたその単一のアイテムのみを判定します。MCP サービスでのジェイルブレイク出力評価の場合、入力にはインラインテキストとテキストリソース blob の両方の result.content と result.structuredContent が含まれます。MCPサービス上の他のLLMジャッジは、 result.content のみを受け取ります。入力フェーズでは、MCPサービス上のLLMジャッジは引数を持たないツール呼び出しをスキップします。

MCPサービスでの脱獄は、 機密データの検出と同じ方法でリソースBLOBを抽出します。デコーディングは最善の試行です。デコードできない BLOB やサイズ制限を超える BLOB は省略されます。スクリーニングでは、MCPサーバーが宣言するメディアタイプ (mimeType) を使用します。欠落している、または空のメディア・タイプはテキストとして処理され、非テキストとして宣言された BLOB は除外されます。評価者はリソースのリンクを取得しません。

MCPサービスの脱獄は、ツール呼び出し(tools/call)とその結果をスクリーニングします。tools/listによって返されたツールの説明はスクリーニングされません。

埋め込み入力の場合、エバリュエーターの各呼び出しは1つの空でないアイテムを受け取ります。

チャットスタイルのモデルAPIの入力フェーズでは、評価者は最近の会話ターンのウィンドウも受け取るため、段階的なエスカレーションなど、会話全体で構築されるパターンをキャッチできます。ポリシーフォームで ポリシー を作成する場合、会話ウィンドウは default で最後の10ターンに設定されます。この数は変更できます。最新のメッセージのみを判断する場合は1に設定するか、 会話全体を評価する を選択してください。会話ウィンドウが設定されていないポリシーは、最新のメッセージのみを判断します。

出力コントラクト​

DatabricksはポリシープロンプトにJSON出力コントラクトを自動的に追加するため、評価者はフリーテキストではなく構造化された決定を返します。評価者は以下を返します。

  • flagged (Boolean):コンテンツがポリシーの基準に違反している場合はtrue。
  • confidence (浮動小数点数、 0.0 ~ 1.0 、オプション):評価器がその決定に抱く信頼度。
  • reason (文字列):コンテンツにフラグが立てられた理由の短い説明。flagged が true の場合に返されます。

評価者が flagged: true を返すと、Databricks は default で対話をブロックします。MCP サービスでは、尋ねるように構成されたポリシーは、ツールが実行される前に人間の承認のためにリクエストを一時停止します。Databricks がコントラクトを適用するため、LLM-as-a-judge 組み込み関数は、フェーズとランク以外の構成を必要としません。機密データ検出は、分類タグとアクションも取得します。

OpenJev 評価器はこの契約を使用しません。代わりに flag-or-allow の質問に回答し、reason を返しません。OpenJev を評価器として使用するをご覧ください。

評価器はモデルであるため、その判定結果は非決定論的であり、reasonは構造化データではなく短い自由テキストです。リクエストに対してどのポリシーがランされ、それぞれがどう判定したかを確認するには、統一トレーステーブルを使用します。また、ジャッジのconfidenceとそれが評価した正確なコンテンツを確認するには、評価器モデルサービスで推論テーブルを有効にします。「ポリシー決定のデバッグと監査」を参照してください。

評価コスト​

ベータ期間中、Databricks は組み込みサービスポリシーに対して別途料金を請求しません。各評価は、評価モデルサービスへの他の呼び出しと同様に課金されるため、コストはそのモデルがどのように提供されるかによって異なります。各評価に対して課金されるトークンは、ポリシープロンプト、出力コントラクト、抽出されたメッセージ、および評価者の応答をカバーします。オーバーヘッドを制限するために、フェーズごとのポリシー数を少なくし、低レイテンシの評価者モデルを優先します。

ストリーミング評価では、出力ジャッジが重複する応答テキストを複数回評価します。各評価では、評価モデルサービスが個別に呼び出され、評価用トークンが消費されます。そのため、長いストリーム化された応答では、1回の完全な応答評価よりも多くの評価用トークンを使用する場合があります。

外部サービスポリシー​

外部サービスポリシーは、AIセキュリティやデータ損失防止サービスなどのサードパーティ製ガードレールベンダーの決定を強制します。 External ガードレールタイプで接続し、ベンダーのEndpointとOAuthのマシン間認証情報を格納する Unity Catalog HTTP 接続を指すようにします。Databricksは、各評価において、評価対象の内容をベンダーに送信します。ベンダーは判定結果と任意の理由を返し、Databricksがその結果を適用します。

ベンダーは Databricks 外部ポリシー API を実装する必要があります。外部サービスポリシーは ALLOW、DENY、または MCP ツール呼び出しを保持してユーザーの承認を待つための ASK を返します。コンテンツを編集することはできません。これらはフェイルクローズドで動作するため、ベンダー Endpoint に到達できないか低速の場合、呼び出しは拒否されます。外部サービスポリシーを使用してパートナーのガードレールを適用するを参照してください。

ストリーミング評価では、外部出力ポリシーが評価されたウィンドウごとにベンダーを呼び出します。これらの呼び出しは、ベンダーのレート制限と価格の対象となります。

サポートされているサービス​

サービスポリシーは、以下のUnity Catalogのサービスセキュリティ保護可能オブジェクトにアタッチできます。

サポートされているモデル APIs​

モデルサービスおよびモデルプロバイダーサービスでは、サービスポリシーは入力フェーズと出力フェーズで次のチャット形式のモデルAPIをサポートします。

  • チャット補完:Databricks、OpenAI、Cursor。
  • Anthropic Messages。
  • OpenAI の応答と Databricks Open の応答(これらの形式を通じてルーティングされる Codex 要求を含む)。
  • Gemini generateContent および streamGenerateContent。

サービス ポリシーは、mlflow/v1/embeddingsおよびopenai/v1/embeddingsリクエストでの埋め込み入力にも対応しています。埋め込み入力のガードレールを参照してください。

Logモードのものを含め、サービスポリシーが関連付けられている場合、管理外のパススルーリクエストはHTTP 400を返します。

サポートされているチャットスタイルの APIs の場合は、単一の応答(n=1またはcandidateCount=1)をリクエストします。Logsモードのポリシーを含め、ポリシーがアタッチされている場合、複数の応答に対するリクエストは HTTP 400 を返します。

重要

サービスポリシーは、レガシーテキスト補完または System One 推論リクエストではランされません。ポリシーがサービスにアタッチされている場合でも、入力フェーズと出力フェーズのどちらもランされません。この制限は、機密データ検出、LLM-as-a-judge、カスタム SQL または Python、外部ポリシーなど、すべてのポリシータイプに適用されます。ポリシーの適用が必要なリクエストには、サポートされているモデル API を使用してください。

サポートされていない API からの成功したレスポンスは、ポリシーがリクエストまたはレスポンスを評価したことを意味するものではありません。

入力ガードレールの埋め込み​

サービスポリシーは、モデルサービスとモデルプロバイダーサービスへのmlflow/v1/embeddingsとopenai/v1/embeddingsのリクエストをサポートします。

テキストガードレールは、input文字列または空ではない文字列の配列を受け入れます。テキストガードレールを適用すると、トークンID配列、混在またはネストされた配列、欠損または null 入力、空の配列は拒否されます。テキストガードレールを適用する場合、バッチには最大16個のアイテムを含めることができます。バッチが大きいと、埋め込みモデルがランする前にHTTP 400が返されます。埋め込みAPIとモデルは、引き続きテキスト、トークン、およびリクエストサイズの制限を適用します。

次のテキストポリシーは入力フェーズ(pre_call)をサポートしています:

  • 機密データ検出(拒否またはマスク付き)。
  • 不適切なコンテンツおよびジェイルブレイクの検出(拒否あり)。
  • 拒否付きのカスタムLLM-as-a-judgeポリシー。

埋め込みの場合、サービスポリシーは入力のみを評価します。チャットリクエストと埋め込みリクエストの両方を受け入れるサービスで、両方のフェーズに対して構成されたポリシーは、埋め込み入力を評価し、チャット出力も評価します。出力のみのポリシーおよびハルシネーション検出は、埋め込みではサポートされていません。例えば、モデル プロバイダー サービスでハルシネーション ポリシーを強制する、あるいは出力のみのマスク ポリシーを強制する場合、モデルがランされる前に HTTP 400 で埋め込みリクエストが拒否されます。埋め込みリクエストを許可するには、次のオプションのいずれかを選択してください:

  • チャットの適用を維持するため、埋め込みを別のサービス経由でルーティングします。
  • 入力フェーズをサポートするポリシーに置き換えます。既存のポリシーに入力フェーズを追加すると、チャット入力のチェックも起動されます。
  • ポリシーをLogモードに切り替えます。これにより、チャットリクエストの強制も停止されます。

LLM-as-a-judge ポリシーは、会話ウィンドウや max_turns 設定に関係なく、空白以外の各アイテムを個別に評価します。各ジャッジは空白以外のアイテムごとに 1 回呼び出しを行うため、2 人のジャッジによる 16 アイテムのバッチでは最大 32 回のジャッジ呼び出しが行われ、遅延と使用コストが増加します。ジャッジがアイテム全体を受け入れられない場合、リクエストはエラー reason の POLICY_EVALUATION_FAILED で失敗します。テキストは切り捨てられません。アイテムが拒否された場合、リクエスト全体が HTTP 400 で失敗します。

「マスク」を使用すると、機密データの検出によって各項目内の一致が置換されます。その際、項目の順序や、modelやdimensionsなどのその他の要求フィールドは保持されます。モデルは墨消しされたテキストを埋め込むため、ベクトルと検索結果が変更される可能性があります。埋め込み応答は、どの項目が墨消しされたかを示しません。

一貫した取得のために、インデックス付きコンテンツとクエリーテキストに同じレッドクションポリシーを適用してください。アプリケーションが入力が変更されたかどうかを知る必要がある場合は、埋め込みAPIを呼び出す前にテキストをレッドクションします。レッドクションされたテキストを評価するには、レッドクションポリシーの入力順位を評価器よりも低くします。Logsモードでは、入力は変更されません。

カスタムSQLおよびPythonポリシーは、埋め込みリクエストイベントのみを受け取ります。外部ポリシーは、入力用に構成されると model_call イベントを受け取ります。どちらのタイプも埋め込み結果を受け取りません。応答イベントに対してのみ動作するカスタム関数は、埋め込みリクエストを保護しません。各入力イベントには、リクエスト全体が含まれます JSON。エンベディングには会話メッセージがありません。外部サービスポリシー API リファレンスをご覧ください。

フェイルクローズド動作​

サービスポリシー評価は、MCPツール呼び出しおよびサポートされるモデルAPI要求に対して「失敗してクローズ」します。除外されたモデルAPIへの要求はポリシー評価をスキップするため、「失敗してクローズ」しません。Unity Gatewayを通じてポリシーをアタッチする場合、Databricksはアタッチ時にポリシーを検証し、評価中にエラーが発生するとDENYになります。エラーには、ポリシー関数内のユーザーエラー、システムエラー、要求コンテキストの不足しているフィールド、およびタイムアウトが含まれます。外部サービスポリシーの場合、エラーには、到達不能なベンダーEndpoint、エラーを返すベンダーEndpoint、または ALLOW、DENY、または ASK 以外の判定を返すベンダーEndpointも含まれます。

誤って設定された、または破損したポリシーは、インタラクションを通過させるのではなくブロックします。

ストリーミング評価中に強制出力ポリシーが失敗した場合、ストリームはポリシーブロックメッセージの代わりにエラーで終了する可能性があります。失敗には、評価エラー、タイムアウト、レート制限エラーが含まれます。クライアントは、既にリリースされたテキストを保持します。カスタムポリシーが正常に評価するために完全な応答を必要とする場合は、 完全な応答の評価 を選択します。

A ポリシー in Log mode is non-enforcing.It records what the policy would have decided without blocking the interaction, so even a would-be DENY lets the request proceed.Request validation still applies, including request-タグ validation.

制限事項​

次の制限が適用されます:

  • 埋め込みポリシー :サービスポリシーは、埋め込みの入力フェーズのみをサポートします。埋め込み入力ガードレールを参照してください。

  • モデル API カバレッジ : カバレッジはモデル API によって異なります。サポートされているモデル APIs を参照してください。

  • Transformation :サービスポリシーは決定(ALLOW、DENY、または ASK)を返しますが、リクエストまたはレスポンスの内容は変換しません。唯一の例外は、モデルサービス上で一致した値を非編集(またはマスク)できる組み込みの system.ai.detect_sensitive_data ポリシーです。

  • 外部サービスポリシー :外部サービスポリシーは、MCPツール呼び出し時にALLOW、DENY、またはASKを返し、OAuthマシン間認証のみをサポートします。外部サービスポリシーの制限を参照してください。

  • サポートされているサービス : サービスポリシーは、MCPサービス、モデルサービス、モデルプロバイダーサービスに適用されます。エージェントサービスはサポートされていません。

  • モデルプロバイダーサービスパススルー :モデルプロバイダーサービスにおいて、Databricks は、Logモードのポリシーを含むポリシーがアタッチされている場合、管理されていないパススルーリクエストを HTTP 400 で拒否します。ポリシーが添付されていない場合、 すべてのURLパスを転送 は、これらのリクエストをプロバイダーに転送します。ポリシーは、プロバイダーのサポートされているAPIパスのみを評価します。

  • 会話ウィンドウ : 組み込みおよびカスタムの LLM ジャッジは、モデルおよびモデルプロバイダーサービスでの入力評価中にのみ会話ウィンドウを使用できます。これらのジャッジの場合、出力評価およびMCPサービスは、単一のメッセージ、ツール呼び出し、またはツール結果を使用します。チャット形式のモデルAPIsの場合、カスタムSQL関数とPython関数は、入力評価と出力評価の両方で event:context.conversation の下でプロバイダーに依存しないオブジェクトを受け取ります。出力評価中に、オブジェクトには元の要求の会話が含まれます。組み込みサービスポリシーの仕組みおよび会話コンテキストを参照してください。埋め込みジャッジは、空白以外の各項目を独立して評価し、埋め込みイベントには会話コンテキストはありません。

  • ストリーミング応答 :リリースされたテキストは、拒否または評価エラーの後にリコールすることはできません。最終的なチェックを含む各チェックは、制限付きのルックバックを使用するため、長い応答は単一のチェックでは完全には評価されない場合があります。ストリーミング評価の仕組みを参照してください。

  • ネストされた評価:組み込みサービスポリシー用に選択した評価モデルサービスに独自のポリシーがアタッチされている場合、Databricksは評価の実行時にそれらをスキップします。これにより再帰が防止されます。

  • カスタムPythonポリシー :カスタムPythonポリシーは一部のリージョンでのみ利用でき、追加の制限事項があります。Pythonポリシーの制限事項をご覧ください。

次のステップ​