AIセキュリティ保護対象のサービスポリシー
ベータ版
この機能はベータ版です。ワークスペース管理者は、 Unity Gateway サービス ポリシー プレビューにオプトインすることで、 プレビュー ページからこの機能へのアクセスを制御できます。ワークスペースレベルのプレビューの管理を参照してください。
サービスポリシーを使用すると、Unity Catalog に登録された AI サービスとのやり取りの内容を管理できます。これには、Databricks でホストされているモデルだけでなく、任意のプロバイダーの外部 MCP サーバーやモデルも含まれます。Unity Catalog の付与は、プリンシパルがサービスを呼び出すことができる かどうか を決定します。サービスポリシーは、リクエストとレスポンスの内容、および誰が呼び出しを行っているかに基づいて、そのやり取りが どのように 進むかを決定します。
サービスポリシーは、AI サービスにガードレールを実装するためのメカニズムです。機密データのブロック、プロンプトインジェクション、安全でないコンテンツなどのガードレールを追加する場合、サービスポリシーがそのメカニズムになります。Databricks には一般的なリスクに対する組み込みのガードレールがあります。組織固有のルールについてはカスタムポリシーを作成できます。外部サービスポリシーを使用してサードパーティのガードレールベンダーの決定を適用できます。
これは、エージェントがユーザーに代わって動作する場合に最も重要になります。エージェントはユーザーがアクセスできるすべてのものを継承し、サービスは外部システムにアクセスすることがよくあります。サービスポリシーを使用すると、そのアクティビティにガードレールを設定できます。たとえば、MCPサービスを介してエージェントがGitリポジトリにコードをプッシュする前にユーザーの同意を要求したり、個人を特定できる情報(PII)が含まれるモデルレスポンスを拒否したり、安全ではないコンテンツをブロックしたりできます。
Custom ポリシー can also check and enforce the presence or absence of caller-supplied request タグ.See Require an eligible project and the request タグ reference.
サービスポリシーは、Unity Catalog における 3 種類の属性ベースのアクセス制御(ABAC)ポリシーの 1 つです。
- ABAC GRANT ポリシーは、管理タグが条件に一致するセキュリティ保護可能なオブジェクトに対して Unity Catalog の権限を付与します。これらは、プリンシパルがオブジェクトに到達できるかどうかを制御します。
- 行フィルターと列マスクのポリシーは、プリンシパルがテーブル内のどの行と列を表示できるかを制御します。
- サービスポリシーは、AIサービスへの各リクエストおよびレスポンスのコンテンツを管理し、それを許可または拒否します。MCPサービスでは、ポリシーによって承認のために入力リクエストを保留することもできます。
ABACのGRANTポリシーはアクセス制御です。行フィルター、列マスクの各ポリシーおよびサービスポリシーは コンテンツ ポリシーであり、プリンシパルがアクセスした後の動作を制御します。行フィルターや列マスクと同様に、カスタムSQLサービスポリシーは、ガバナンスロジックを含むUnity Catalog関数を参照し、それをセキュア可能オブジェクトにアタッチします。
サービスポリシーがUnity Catalogの付与を補完する方法
Unity Catalogの権限とサービスポリシーは、異なるガバナンスの課題に対応し、異なる適用ポイントで運用されます。
観点 | Unity Catalog の権限 | サービスポリシー |
|---|---|---|
質問への回答 | このプリンシパルはこのサービスを呼び出すことができますか? | このインタラクションはどのように進行すべきですか? |
入力 | プリンシパルの識別情報と付与された権限 | リクエストコンテンツ、レスポンスコンテンツ、リクエストタグ、ツールアノテーション、およびアクターコンテキスト |
適用ポイント | リクエストがサービスに到達する前に | サービスが呼び出される前(入力フェーズ、ON CALL)およびサービスが応答した後(出力フェーズ、ON RESULT) |
粒度 | プリンシパルごと、セキュリティ保護可能なオブジェクトごと | リクエストごとに、コンテンツとコンテキストに基づいて |
サービスポリシーはUnity Catalogの権限を置き換えるものではありません。プリンシパルは、サービスを呼び出すためにまず適切なUnity Catalog権限を持っている必要があります。サービスポリシーは、各インタラクションのコンテンツを評価し、追加のガバナンスルールを適用します。
ポリシー決定
サービスポリシーはリクエストまたはレスポンスの内容を評価し、次の3つの結果のいずれかを返します。
- 許可 :インタラクションが進行します。
- DENY : ポリシーはインタラクションをブロックします。チャットスタイルの APIs では、エラー状態の代わりに、Databricks は成功(HTTP 200)応答を返します。モデルサービスまたはモデルプロバイダーサービスでは、アシスタントのターンにブロックしたサービスポリシーを示す短いメッセージが含まれ、トップレベルの
databricks_service_policyオブジェクトにブロックreasonを含む構造化された詳細が含まれます。ブロックを通常のターンとして返すことで、コーディングエージェントなどの完全な履歴を再送信する会話クライアントが、後のすべてのターンで同じブロックを再Triggerするのを防ぎます。MCP サービスでは、応答は JSON-RPC エラーで、ブロックreasonがerror.messageにあります。 - ASK : MCP サービスの場合、ポリシーはツールを実行する前にユーザーの承認を求めるリクエストを停止する。ユーザーが破壊的な MCP ツール呼び出しなどの機密操作を承認する必要がある場合に、このアクションを使用します。MCP サービスを呼び出す外部エージェントの場合、承認プロンプトは MCP URL モードのエリシテーションを通じて配信されます。カスタム ポリシー関数がモデル サービスまたはモデル プロバイダー サービスに対して
ASKを返す場合、Databricks はこれらのサービスがユーザーに承認を求めることができないため、リクエストまたはレスポンスをブロックします。決定を返すを参照してください。
カスタムポリシーは、インタベーショングイベント(アクター、リクエストまたはレスポンスの内容を含む)を受信して決定結果を返すSQLユーザー定義関数(UDF)、または自然言語で記述した基準に基づいてコンテンツを分類するLLM-as-a-judgeポリシーのいずれかです。組み込みポリシーは Databricks によって管理され、外部サービスポリシーによってコンテンツがサードパーティのガードレールサービスに送信され、決定結果が返されます。
カスタムポリシーは、Python UDF にすることもできます。
評価ポイント
Databricks は、すべてのインタラクションで 2 つの点でサービス ポリシーを評価します。
- 入力 (ON CALL): Databricks がサービスを呼び出す前、リクエストに対して。このフェーズを使用して、リクエストが基盤となるサービスに到達する前にリクエストを検査します。たとえば、破壊的な MCP ツールを呼び出すリクエストをブロックしたり、機密データを含むプロンプトがモデルに到達する前に拒否したりします。
- 出力(ON RESULT):サービスが応答した後、その応答に対して実行されます。このフェーズを使用して、応答が呼び出し元に返される前に検査します。例えば、幻覚コンテンツや機密データを含むレスポンスをブロックします。
カスタムポリシー関数は両方のポイントでランします。これは現在のフェーズ (event:type) を検査して動作方法を決定するため、単一のポリシーでリクエスト、レスポンス、またはその両方を管理できます。1 つのフェーズでのみ動作させるには、関数本体の event:type で Branch します。組み込みポリシーおよびカスタム LLM-as-a-judge ポリシーの場合は、代わりにポリシーフォームの「 フェーズ 」設定でフェーズを選択します。一部の組み込みポリシーは、異なるサービスで異なるフェーズをサポートしています。Jailbreak ガードレールは、モデルおよびモデルプロバイダーサービスの入力フェーズ、および MCP サービスの入力、出力、またはその両方でのみ実行されます。ポリシーフォームは、MCP サービスで Jailbreak の出力を事前選択しますが、API 呼び出し元はポリシーの options.phases リクエストフィールドを pre_call (入力)、post_call (出力)、または pre_call,post_call (両方) に明示的に設定する必要があります。ハルシネーション検出は、出力フェーズでのみランされます。外部サービスポリシーもフェーズによってスコープが設定されます。ポリシーをアタッチするときに、入力フェーズ、出力フェーズ、またはその両方を選択します。
評価順序
1つのサービスに複数のサービスポリシーをアタッチできます。各アタッチメントにはランク (優先度) があり、特定のランクの DENY は後のランクの評価を停止します。Databricksは、入力フェーズ (ON CALL、最も低いランクが最初) で昇順に、出力フェーズ (ON RESULT) で降順にランクを評価します。同じランクのポリシーは、以下に示すように2段階で評価されます。異なるランクを使用して評価順序を制御します。
ランク内の評価
Databricksは、同じランクのポリシーを2つのステージで評価します:
- Blocking LLM-as-a-judge ポリシーは並行して実行されます。これらは、不安全なコンテンツの検出など、(
DENY)コンテンツをブロックする組み込みおよびカスタム LLM-as-a-judge ポリシーです。これらはモデルによってサポートされるチェックであるため、これらを同時に実行すると、追加の遅延はそれらの合計ではなく、最も低速な単一の評価の遅延とほぼ同じになります。 - 残りのポリシーは順次実行されますが、最初の段階のポリシーがいずれも
DENYを返さなかった場合のみ実行されます。この段階では、カスタム ポリシー関数、外部サービス ポリシー、system.ai.detect_sensitive_data組み込みポリシー、および承認のために一時停止するポリシー (ASK) がカバーされます。これには、ブロックするのではなく質問するように設定された LLM-as-a-judge ポリシーも含まれます。この段階内での順序は定義されていません。ASKは、MCP サービスに対してのみ入力呼び出しを一時停止します。モデル サービスおよびモデル プロバイダー サービスの場合、ASKはリクエストまたはレスポンスをブロックします。
並列ステージのDENYは、順次ステージをスキップします。順次ステージはDENYで停止しません。DENYを返すポリシーがあった後も、そのステージ内のすべてのポリシーが実行されます。たとえば、リクエストを拒否するカスタムSQLポリシーがあっても、同じランクの外部サービス ポリシーがコンテンツをベンダーに送信するのを妨げることはありません。いずれかのステージでDENYが発生すると、それより後のランクでの評価が停止します。そのため、別のポリシーが拒否したときにポリシーをスキップするには、拒否するポリシーを先に評価されるランクに配置してください。
Databricksでは、処理の遅いモデルベースのチェックが並列処理されるため、サービスに複数のブロッキングガードレールを積み重ねても、そのレイテンシが乗算されることはありません。
次の図は、2つのフェーズがサービスの周囲にどのように配置されているか、そして各決定が何をするかを示しています。

特定のサービスにアタッチされているポリシーとその実行順序を確認するには、サービスの[ ポリシー ]tabを開き、[ 実行フローを表示 ]をクリックします。
組み込みサービスポリシー
Databricks は、system.ai 名前空間の下で組み込みのサービスポリシーを提供します。これらは、カスタム SQL を使用せずに一般的なガバナンスシナリオをカバーします。Databricks AI ガードレール は、組み込みのサービスポリシーです。これは、カスタムポリシーと同じ方法でアタッチできる、事前構成済みの Databricks 管理ポリシー(安全でないコンテンツやジェイルブレイクの検出など)です。
system.ai.block_unsafe_content: 安全でない、または有害なコンテンツを含むインタラクションを拒否します。system.ai.block_jailbreak:ジェイルブレイクとプロンプトインジェクションのコンテンツを検出します。Model サービスおよびModel Provider サービスでは、モデル入力のみを評価します。MCP サービスでは、入力時にツール呼び出しと引数を、出力時にツールの結果を、またはその両方を評価できます。system.ai.block_hallucination:ハルシネーションを含む応答を拒否します。system.ai.detect_sensitive_data:構造化された機密データ(クレジットカード番号や社会保障番号など)を検出し、インタラクションを拒否するか、一致する値をマスクします。他のものとは異なり、決定論的(パターンベースであり、評価モデルは不要)であり、拒否するだけでなくマスクすることもできます。サービスポリシーで機密データを検出するを参照してください。
組み込みポリシーを使用するには、それをサービスにアタッチします。ターゲットサービス上でMANAGEが必要です。
組み込みのポリシーは Databricks によって管理されており、Catalog Explorer の system.ai スキーマで参照できる関数としては表示されません。サービスポリシーの作成とアタッチで説明されているように、Unity Gateway UI を使用して名前で選択し、アタッチします。
組み込みサービス ポリシーの仕組み
組み込みのサービスポリシーには 2 種類あります。LLM-as-a-judge 組み込みはそれぞれ、Databricks がキュレートしたプロンプトを評価モデルに対して実行し、コンテンツがポリシーに違反していないかを判断します。機密データの検出は決定的です。パターンとチェックサムを照合するだけで、評価モデルは使用しません。
評価者モデルサービス
各組み込みサービスポリシーは、コンテンツを判定するモデルである 評価器モデルサービス 上でプロンプトを実行します。Databricksによってdefaultの評価器が事前選択されるため、セットアップは不要です。別のモデルを使用するには、ポリシーをアタッチするときに 詳細オプション を展開して選択します。選択したモデルサービスに対するEXECUTEと、そのカタログおよびスキーマに対するUSE CATALOGおよびUSE SCHEMAが必要です。モデルサービスへのアクセスを許可するを参照してください。Databricksはポリシーのアタッチ時にこのアクセスを確認するため、保護されたサービスの呼び出し元が評価器へのアクセス権を持つ必要はありません。評価器は保護しているサービスとは別個のものであるため、ポリシーでは、評価器として別のモデルを使用して、1つのモデルサービスへのリクエストを評価できます。
Databricksは、読み取り専用であるポリシーのプロンプトを管理しています。評価者が適用する正確な基準を確認するには、ポリシーをアタッチした際に プロンプト の下でご覧いただけます。
評価器が受け取るもの
組み込みサービスポリシーが実行されると、Databricksは評価器に2つの部分からなるリクエストを送信します:機会
- ポリシープロンプトと出力コントラクト(次のセクションで説明)を含む システムメッセージ 。
- 評価対象のコンテンツを含む ユーザーメッセージ 。入力フェーズでは、モデルまたはモデルプロバイダーサービスの最新のユーザーメッセージと、最近の会話ターンのウィンドウ(下記参照)、またはMCPサービスのツール呼び出しとその引数になります。出力フェーズでは、モデルの応答、またはツールがランした後のMCPツールの結果になります。
評価者は、デコードされた画像または音声のペイロードではなく、シリアル化されたテキストを受け取ります。出力フェーズおよびMCPサービスでは、抽出されたその単一のアイテムのみを判定します。MCP サービスでのジェイルブレイク出力評価の場合、入力にはインラインテキストとテキストリソース blob の両方の result.content と result.structuredContent が含まれます。MCPサービス上の他のLLMジャッジは、 result.content のみを受け取ります。入力フェーズでは、MCPサービス上のLLMジャッジは引数を持たないツール呼び出しをスキップします。
MCPサービスでの脱獄は、 機密データの検出と同じ方法でリソースBLOBを抽出します。デコーディングは最善の試行です。デコードできない BLOB やサイズ制限を超える BLOB は省略されます。スクリーニングでは、MCPサーバーが宣言するメディアタイプ (mimeType) を使用します。欠落している、または空のメディア・タイプはテキストとして処理され、非テキストとして宣言された BLOB は除外されます。評価者はリソースのリンクを取得しません。
MCPサービスの脱獄は、ツール呼び出し(tools/call)とその結果をスクリーニングします。tools/listによって返されたツールの説明はスクリーニングされません。
モデルおよびモデルプロバイダーのサービスの入力フェーズでは、評価者は直近の会話のやり取りのウィンドウも受け取るため、段階的なエスカレーションなど、会話全体で蓄積されるパターンを検出できます。ポリシーフォームでポリシーを作成すると、 会話ウィンドウ はdefaultで直近10ターンに設定されます。数を変更して、1に設定すると最新のメッセージのみを判定できます。または、 会話全体を評価 を選択します。会話ウィンドウが設定されていないポリシーでは、最新のメッセージのみが判定されます。
出力コントラクト
DatabricksはポリシープロンプトにJSON出力コントラクトを自動的に追加するため、評価者はフリーテキストではなく構造化された決定を返します。評価者は以下を返します。
flagged(Boolean):コンテンツがポリシーの基準に違反している場合はtrue。confidence(浮動小数点数、0.0~1.0、オプション):評価器がその決定に抱く信頼度。reason(文字列):コンテンツにフラグが立てられた理由の短い説明。flaggedがtrueの場合に返されます。
評価者が flagged: true を返すと、Databricks は default で対話をブロックします。MCP サービスでは、尋ねるように構成されたポリシーは、ツールが実行される前に人間の承認のためにリクエストを一時停止します。Databricks がコントラクトを適用するため、LLM-as-a-judge 組み込み関数は、フェーズとランク以外の構成を必要としません。機密データ検出は、分類タグとアクションも取得します。
OpenJev 評価器はこの契約を使用しません。代わりに flag-or-allow の質問に回答し、reason を返しません。OpenJev を評価器として使用するをご覧ください。
評価器はモデルであるため、その判定結果は非決定論的であり、reasonは構造化データではなく短い自由テキストです。リクエストに対してどのポリシーがランされ、それぞれがどう判定したかを確認するには、統一トレーステーブルを使用します。また、ジャッジのconfidenceとそれが評価した正確なコンテンツを確認するには、評価器モデルサービスで推論テーブルを有効にします。「ポリシー決定のデバッグと監査」を参照してください。
評価コスト
ベータ期間中、Databricks は組み込みサービスポリシーに対して別途料金を請求しません。各評価は、評価モデルサービスへの他の呼び出しと同様に課金されるため、コストはそのモデルがどのように提供されるかによって異なります。各評価に対して課金されるトークンは、ポリシープロンプト、出力コントラクト、抽出されたメッセージ、および評価者の応答をカバーします。オーバーヘッドを制限するために、フェーズごとのポリシー数を少なくし、低レイテンシの評価者モデルを優先します。
外部サービスポリシー
外部サービスポリシーは、AIセキュリティやデータ損失防止サービスなどのサードパーティ製ガードレールベンダーの決定を強制します。 External ガードレールタイプで接続し、ベンダーのEndpointとOAuthのマシン間認証情報を格納する Unity Catalog HTTP 接続を指すようにします。Databricksは、各評価において、評価対象の内容をベンダーに送信します。ベンダーは判定結果と任意の理由を返し、Databricksがその結果を適用します。
ベンダーは Databricks 外部ポリシー API を実装する必要があります。外部サービスポリシーは ALLOW、DENY、または MCP ツール呼び出しを保持してユーザーの承認を待つための ASK を返します。コンテンツを編集することはできません。これらはフェイルクローズドで動作するため、ベンダー Endpoint に到達できないか低速の場合、呼び出しは拒否されます。外部サービスポリシーを使用してパートナーのガードレールを適用するを参照してください。
サポートされているサービス
サービスポリシーは、以下のUnity Catalogのサービスセキュリティ保護可能オブジェクトにアタッチできます。
- MCPサービス:マネージド、外部、およびカスタムのMCPサーバー。
- モデルサービス:ホストされているLLMエンドポイントおよび外部LLMエンドポイント。
- モデルプロバイダーサービス:統制された外部モデルプロバイダー。
フェイルクローズド動作
サービスポリシーの評価には、フェイルクローズドのセマンティクスが使用されます。Unity Gateway を介してポリシーをアタッチすると、Databricks はアタッチ時にそれを検証し、評価中にエラーが発生すると DENY が返されます。エラーには、ポリシー関数内のユーザーエラー、システムエラー、リクエストコンテキスト内に欠落しているフィールド、タイムアウトが含まれます。外部サービスポリシーの場合、エラーには、到達不能、エラーを返す、または ALLOW、DENY、ASK 以外の判定を返すベンダー Endpoint も含まれます。
誤って設定された、または破損したポリシーは、インタラクションを通過させるのではなくブロックします。
A ポリシー in Log mode is non-enforcing.It records what the policy would have decided without blocking the interaction, so even a would-be DENY lets the request proceed.Request validation still applies, including request-タグ validation.
制限事項
次の制限が適用されます:
-
Transformation :サービスポリシーは決定(ALLOW、DENY、または ASK)を返しますが、リクエストまたはレスポンスの内容は変換しません。唯一の例外は、モデルサービス上で一致した値を非編集(またはマスク)できる組み込みの
system.ai.detect_sensitive_dataポリシーです。 -
外部サービスポリシー :外部サービスポリシーは、MCPツール呼び出し時に
ALLOW、DENY、またはASKを返し、OAuthマシン間認証のみをサポートします。外部サービスポリシーの制限を参照してください。 -
サポートされているサービス : サービスポリシーは、MCPサービス、モデルサービス、モデルプロバイダーサービスに適用されます。エージェントサービスはサポートされていません。
-
モデルプロバイダーサービスのパススルー :モデルプロバイダーサービスにおいて、Databricks はパススルーリクエストに対してサービスポリシーを評価しません。これは、 すべての URL パスの転送 を有効にすると、Unity Gateway が変更せずにプロバイダーに転送するものです。ポリシーは、プロバイダーのサポートされている API パスにのみ適用されます。
-
会話ウィンドウ : 組み込みの LLM ジャッジとカスタム LLM ジャッジは、モデルおよびモデルプロバイダーサービスでの入力評価中にのみ会話ウィンドウを使用できます。これらのジャッジの場合、出力評価および MCP サービスは、単一のメッセージ、ツール呼び出し、またはツール結果を使用します。モデルおよびモデルプロバイダーサービスでのカスタム SQL および Python 関数は、入力評価と出力評価の両方で
event:context.conversationの下にプロバイダーに依存しないオブジェクトを受け取ります。出力評価中、このオブジェクトには元のリクエストの会話が含まれます。組み込みサービスポリシーの仕組みおよび会話のコンテキストを参照してください。 -
ネストされた評価:組み込みサービスポリシー用に選択した評価モデルサービスに独自のポリシーがアタッチされている場合、Databricksは評価の実行時にそれらをスキップします。これにより再帰が防止されます。
-
カスタムPythonポリシー :カスタムPythonポリシーは一部のリージョンでのみ利用でき、追加の制限事項があります。Pythonポリシーの制限事項をご覧ください。