メインコンテンツまでスキップ
に最終更新

Databricks AI支援機能の信頼性と安全性

Databricks は、お客様が当社のプラットフォームと Databricks AI 支援機能を使用する際に、お客様のデータの重要性と当社に寄せられる信頼を理解しています。Databricks は最高水準のデータ保護に注力しており、Databricks AI 支援機能に送信される情報が保護されるように厳格な対策を実施しています。

  • お客様のデータの機密性は保たれます。

    • Databricksは、サードパーティが利用できるようにDatabricksが提供する生成AIの基盤モデルのトレーニングに、これらの機能に送信またはこれらの機能から出力されたデータ、プロンプト、応答を使用しません。
    • 当社のモデル パートナーは、悪用モニタリングのためであっても、これらの機能を通じて送信されたデータを保持しません。 パートナーを活用したAI支援機能は、モデル パートナーからのデータ保持ゼロのエンドポイントを使用します。

  • 有害な出力からの保護。 Azure OpenAI を使用する場合、Databricks は Azure OpenAIコンテンツ フィルタリングも使用して、有害なコンテンツからユーザーを保護します。Anthropicモデルを使用する場合、 Databricks 、 Anthropicの組み込み 安全メカニズムと、 Anthropicの安全性に関するドキュメントに記載されている有害な出力に対する追加の強化機能に依存します。 さらに、Databricks は、有害なコンテンツ、脱獄、安全でないコード生成、サードパーティの著作権コンテンツの使用に対する保護対策が効果的であることを確認するために、何千ものユーザー インタラクションのシミュレーションによる広範な評価を実施しました。

  • Databricksは、サービスを提供するために必要なデータのみを使用します。 データは、DatabricksのAI支援機能とやり取りする場合、または機能を提供するために必要な場合にのみ送信されます。Databricksは、プロンプト、関連するテーブルメタデータと値、エラー、および入力コードまたはクエリを送信し、より関連性の高い結果を返すのに役立てます。

  • データは転送中も保存中も保護されます。 Databricks とモデルパートナー間のすべてのトラフィックは、業界標準の TLS 暗号化を使用して転送中に暗号化されます。Databricks ワークスペース内に格納されるデータはすべて AES-256 ビットで暗号化されます。

  • Databricks はデータ レジデンシー制御を提供します。 Databricks AI 支援機能は指定サービスであり、データ所在地の境界に準拠しています。詳細については、 「Databricks Geos: データ所在地」および「Databricks 指定サービス」を参照してください。

特定の機能がお客様のデータをどのように処理するかについては、プライバシーとセキュリティに関する FAQをご覧ください。

モデルに送信されるデータ​

パートナーが提供する AI 支援機能ではどのようなサービスとモデルが使用されますか?​

**パートナーが提供するAI機能**設定が有効な場合、DatabricksのAIアシスト機能は、Azure OpenAIサービス、Databricks上のOpenAI、またはDatabricks上のAnthropicがホストするモデルを使用します。

Genie Code オートコンプリートなどの一部の機能は、設定が有効になっている場合でも Databricks がホストするモデルを使用します。 パートナー提供の AI 機能 設定を無効にすると、一部の AI 支援機能は Databricks がホストするモデルを使用する場合があります。詳細については、パートナーが提供する AI 機能を参照してください。

モデルにはどのようなデータが送信されますか?​

Databricksは、サービスを提供するために必要なデータのみを送信します。一般的に、これにはプロンプト（質問、コード、クエリーなど）、およびテーブル名と列名と説明、サンプル値、エラー、以前の質問などの関連メタデータが含まれます。正確なデータは機能によって異なります。

  • Genie Code は、現在のノートブックセルまたはSQLエディターtabのコードとクエリー、テーブルと列の名前と説明、以前の質問、およびお気に入りのテーブルを送信します。 エージェントモード では、Genie Codeは、業界の他のコーディングエージェントと同様に、セルの出力の分析や、テーブルからのデータサンプルの読み取りもできます。
  • **Genie エージェント**は、自然言語プロンプト、テーブル名と説明、関連する値、一般的な指示、SQL クエリーの例、および SQL 関数を使用します。
  • Genie Ontology は、Genieに組織のビジネスを認識したマップを提供する統合コンテキストレイヤーであり、モデル化されたコンテキスト（Unity Catalogのセマンティクス、メトリクスビューやドメインなど）と、Genieが既存のアセットや使用状況から自動的に構築および維持する推論されたコンテキストを統合します。抽出されたオントロジースニペットは、ソースアセットの権限を継承します。推論されたコンテキストを生成するために、Genieはメトリクスビュー、ダッシュボード、SQLクエリー、Genieエージェントなどのソースからナレッジを抽出します。
  • AI 生成コメント は、ドキュメント化されるオブジェクトとその親オブジェクト（カタログ、スキーマ、テーブル、関数、モデル、ボリューム名、現在のコメント、および列の詳細（名前、型、主キーであるかどうか、現在の列コメント）を含む）のメタデータを送信します。

モデルに送信されるデータは、ユーザーのUnity Catalog権限を尊重しますか?​

はい、AI 支援機能モデルに送信されるすべてのデータは Unity Catalog の権限を尊重するため、ユーザーがアクセスできないデータはそのようなモデルに送信されません。

パートナー モデル プロバイダーは私のデータを保存しますか?​

いいえ。Databricks を通じてパートナー モデルを使用する場合、パートナー モデル プロバイダーはプロンプトや応答を保存しません。

ストレージとアクセス​

AI支援機能ストアからの応答はどこにありますか?​

Genie Agentの応答と承認されたAI生成コメントは、Databricksコントロールプレーンデータベースに保存されます。コントロールプレーンデータベースはAES-256ビットで暗号化されています。

Genie Code のチャット履歴は、他のノートブックのコンテンツと同じ場所に保存されます。

Genie CodeまたはGenie Agentとのチャット履歴を誰が見ることができますか？​

自分のGenie Codeチャットを閲覧できます。管理者は、直接Linkを持っている場合にチャットを閲覧できます。チャットを共有すると、受信者はそのチャットを閲覧できます。チャットの共有を参照してください。

Genieエージェント管理者は他のユーザーのメッセージを表示できますが、それらのクエリ結果は表示できません。Genieエージェントとの会話は会話の共有設定に従います。

コードの実行と精度​

Genie AgentやGenie Codeはコードを実行しますか？​

Genieエージェントは顧客データへの読み取り専用アクセスで設計されているため、読み取り専用のSQLクエリーのみを生成および実行できます。

エージェントモードでは、Genie Code はノートブックと SQL エディターでコードを実行できます。最初は、Genie Code が実行を進めるための確認を求めます。実行を確認するか、現在の Genie Code チャットでの実行を常に許可するか、あるいは実行を常に許可するかを選択できます。他の Genie Code モードでは、ユーザーに代わって自動的にコードが実行されることはありません。

AI モデルは間違いを犯したり、意図を誤解したり、幻覚を見たり、間違った答えを出したりする可能性があります。AI が生成したコードを実行する前に、確認してテストします。

Databricks は、AI 支援機能からの応答の正確性と適切性を評価するための評価を実施しましたか?​

はい、Databricksは、すべてのAIアシスト機能について、予想されるユースケースに基づいて広範なテストを実施し、シミュレートされたユーザー入力を使用して応答の精度と適切性を高めています。とは言え、AIは新しいテクノロジーであり、AIアシスト機能は不正確または不適切な応答を提供する可能性があります。

データレジデンシーとコンプライアンス​

トラフィックは Geos を通じてどのようにルーティングされますか?​

Databricks AI 支援機能は、顧客コンテンツを処理する際にDatabricks Geos を 使用してデータの所在地を管理する指定サービス です。トラフィック ルーティングは、リージョンと、クロスジオ処理が有効になっているかどうか ( 指定サービスのワークスペース ジオグラフィ内でのデータ処理の適用 が無効) によって異なります。

規制対象データ (PHI、PCI、IRAP、FedRAMP) を処理するテーブルで AI 支援機能を使用できますか?​

はい。そのためには、 コンプライアンス・セキュリティー・プロファイルの有効化などの要件に準拠し、コンプライアンス・セキュリティー・プロファイル構成の一部として関連するコンプライアンス標準を追加する必要があります。

Databricks でホストされるモデル​

AI 支援機能は Databricks がホストするモデルでどのように機能しますか?​

パートナーが提供するAI機能が無効になっている場合、AIアシスト機能は、Databricksが完全に選択および管理するDatabricksホスト型モデルを使用します。Databricksは、OpenAI GPT OSSのような商用利用可能なオープンソースモデルを使用します。

次の図は、Databricks でホストされるモデルが Quick Fix などの Databricks AI を利用した機能を強化する方法の概要を示しています。

Databricks がホストするモデルを活用した Genie Code のワークフローの図。

  1. ユーザーがノートブックのセルを実行すると、エラーが発生します。
  2. Databricks は、メタデータを要求にアタッチし、Databricks でホストされている大規模言語モデル (LLM) に送信します。すべてのデータは保存時に暗号化されます。顧客は、顧客管理キー (CMK) を使用できます。
  3. Databricks でホストされるモデルは、エラーを修正するための提案されたコード編集で応答し、ユーザーに表示されます。
このページの見出し