Databricks AI recurso assistencial confiança e segurança

Databricks entende a importância dos seus dados e a confiança que você deposita em nós ao usar nossa plataforma e o recurso de assistência AI Databricks . Databricks está comprometida com os mais altos padrões de proteção de dados e implementou medidas rigorosas para garantir que as informações que você envia ao recurso de assistência AI Databricks sejam protegidas.

• Seus dados permanecem confidenciais.

  • A Databricks não usa dados, prompts ou respostas enviados ou gerados por esses recursos para ensinar modelos de base generativos que a Databricks disponibiliza para uso por terceiros.
  • Nossos parceiros modelo não retêm dados que você envia por meio desses recursos, mesmo para monitoramento de abuso. Nosso recurso assistencial de AI baseado em parceiros usa zero endpoint de retenção de dados de nosso modelo de parceiros.

• Proteção contra emissões nocivas. Ao usar o Azure OpenAI, o Databricks também utiliza o filtro de conteúdo do Azure OpenAI para proteger os usuários de conteúdo prejudicial. Ao utilizar modelos Anthropic , Databricks depende dos mecanismos de segurança integrados da Anthropice de medidas adicionais de proteção contra saídas prejudiciais, conforme descrito na documentação de segurança da Anthropic . Além disso, a Databricks realizou uma avaliação abrangente com milhares de interações de usuários simuladas para garantir que as proteções implementadas contra conteúdo prejudicial, desbloqueios (jailbreaks), geração de código inseguro e uso de conteúdo protegido por direitos autorais de terceiros sejam eficazes.

• O Databricks usa apenas os dados necessários para fornecer o serviço. Os dados são enviados somente quando há interação com os recursos de assistência de AI do Databricks, ou conforme necessário para fornecer os recursos. O Databricks envia o prompt, metadados e valores de tabela relevantes, erros, bem como código de entrada ou consultas para ajudar a retornar resultados mais relevantes.

• Os dados são protegidos em trânsito e em repouso. Todo o tráfego entre Databricks e os parceiros do modelo é criptografado em trânsito com a criptografia TLS padrão das indústrias. Todos os dados armazenados em um Databricks workspace são criptografados em AES-256 bits.

• O Databricks oferece controles de residência de dados. Os recursos assistivos AI Databricks são serviços designados e estão em conformidade com os limites de residência de dados. Para mais detalhes, consulte Databricks Geos: Residência de dados e Serviço designadoDatabricks.

Para mais detalhes sobre como recursos específicos lidam com seus dados, consulte as Perguntas Frequentes sobre privacidade e segurança.

Dados enviados aos modelos

Quais serviços e modelos o recurso assistivo AI baseado em parceiros utiliza?

Se a configuração recursos de AI oferecidos por parceiros estiver habilitada, os recursos assistivos de AI do Databricks usarão modelos hospedados pelo serviço Azure OpenAI, OpenAI no Databricks ou Anthropic no Databricks.

Alguns recursos, como o Genie Code Autocomplete, usam um modelo hospedado pelo Databricks mesmo quando a configuração está habilitada. Se desabilitar a configuração de **recursos de IA oferecidos por parceiros**, alguns recursos assistivos de IA podem usar um modelo hospedado pelo Databricks. Para obter mais informações, consulte Recursos de AI oferecidos por parceiros.

Quais dados são enviados para os modelos?

A Databricks envia apenas os dados necessários para fornecer o serviço. Em geral, isso inclui seu prompt (por exemplo, sua pergunta, código ou query) e metadados relevantes, como nomes e descrições de tabelas e colunas, valores de amostra, erros e perguntas anteriores. Os dados exatos diferem por recurso:

• O Genie Code envia código e queries na célula atual do notebook ou na tab do editor SQL, nomes e descrições de tabelas e colunas, perguntas anteriores e tabelas favoritas. No modo Agente , o Genie Code também pode analisar saídas de célula e ler amostras de dados de tabelas, semelhante a outros agentes de codificação nas indústrias.
• Os Agentes Genie utilizam o prompt em linguagem natural, nomes e descrições de tabelas, valores relevantes, instruções gerais, exemplos de queries SQL e funções SQL.
• Genie Ontology é um mapa dos seus dados e negócios que o Genie cria e mantém automaticamente, extraindo conhecimento de fontes como tabelas, queries, dashboards, notebooks, documentos e aplicativos conectados. Os snippets de ontologia extraídos respeitam as permissões dos ativos e documentos de origem.
• Comentários gerados por AI enviam metadados para o objeto sendo documentado e seus objetos pai, incluindo nomes de catálogo, esquema, tabela, função, modelo e volume, seus comentários atuais e detalhes da coluna (nome, tipo, se é uma chave primária e comentário da coluna atual).

Os dados enviados aos modelos respeitam as permissões do Unity Catalog do usuário?

Sim, todos os dados enviados aos modelos de recursos assistivos AI respeitam as permissões Unity Catalog , portanto, nenhum dado ao qual os usuários não têm acesso é enviado a esses modelos.

Os provedores de modelos parceiros armazenam meus dados?

Não. Ao usar modelos de parceiros por meio do Databricks, os provedores de modelos de parceiros não armazenam prompts ou respostas.

Armazenamento e acesso

Onde estão as respostas do repositório de recursos assistenciais AI ?

As respostas do Agente Genie e os comentários gerados por IA aprovados são armazenados no banco de dados do plano de controle do Databricks. O banco de dados do plano de controle é criptografado com AES-256 bits.

O histórico de bate-papo Genie Code é armazenado no mesmo local que outros conteúdos do Notebook.

Quem pode ver meu histórico de chat com o Genie Code ou Genie Agents?

Você pode view seus próprios chats Genie Code . Os administradores podem view a conversa se tiverem um link direto. Ao compartilhar uma conversa, os destinatários podem view -la. Consulte Compartilhar uma conversa.

Os gerentes do Genie Agent podem ver as mensagens de outros usuários, mas não os resultados de suas consultas. Conversas com Genie Agents seguem as configurações de compartilhamento de conversas.

Execução e Precisão do Código

Os Genie Agents ou o Genie Code executam código?

Genie Agents são projetados com acesso somente leitura a dados do cliente, portanto, eles só podem gerar e executar queries SQL somente leitura.

No modo Agente, Genie Code pode executar código no Notebook e no editor SQL . Inicialmente, o Genie Code solicitará sua confirmação para prosseguir com a execução. Você pode optar por confirmar, permitir sempre a execução na thread atual do Genie Code ou permitir sempre a execução. Outros modos Genie Code não executam o código automaticamente em seu nome.

AI Os modelos podem cometer erros, não entender a intenção, alucinar ou dar respostas incorretas. Revise e teste o código gerado pelo AIantes de executá-lo.

Databricks fez alguma avaliação para avaliar a precisão e a adequação das respostas do recurso assistivo AI ?

Sim, Databricks realizou testes extensivos de todos os nossos recursos assistivos AI com base nos casos de uso esperados e usando entradas de usuários simuladas para aumentar a precisão e a adequação das respostas. Dito isto, AI generativa é uma tecnologia emergente, e os recursos assistivos AI podem fornecer respostas imprecisas ou inapropriadas.

Residência e compliance de dados

Como meu tráfego é roteado pelo Geos?

Os recursos assistivos AI Databricks são serviços designados que usam Databricks Geos para gerenciar a residência de dados ao processar o conteúdo do cliente. O roteamento de tráfego depende da sua região e se o processamento entre regiões geográficas está habilitado (a opção Aplicar processamento de dados na Geografia workspace para o serviço Designado está desabilitada).

Posso usar o recurso assistivo AI com tabelas que processam dados regulamentados (PHI, PCI, IRAP, FedRAMP)?

Sim Para isso, o senhor deve cumprir os requisitos, como ativar o perfil de segurançacompliance, e adicionar o padrão compliance relevante como parte da configuração do perfil de segurança compliance.

Modelos hospedados no Databricks

Como os recursos assistivos AI funcionam com modelos hospedados Databricks ?

Quando os recursos de IA desenvolvidos por parceiros estão desativados, os recursos assistivos de IA usam modelos hospedados no Databricks, que são inteiramente selecionados e gerenciados pela Databricks. A Databricks usa modelos de código aberto que estão disponíveis para uso comercial, como o OpenAI GPT OSS.

O diagrama a seguir fornece uma visão geral de como um modelo hospedado em Databricksalimenta o recurso Databricks AI , como o Quick Fix.

1. Um usuário executa uma célula do Notebook, o que resulta em um erro.
2. A Databricks anexa metadados a uma solicitação e a envia para um modelo de linguagem grande (LLM) hospedado pela Databricks. Todos os dados são criptografados em repouso. Os clientes podem usar um gerenciador de clientes key (CMK).
3. O modelo hospedado na Databricks responde com as edições de código sugeridas para corrigir o erro, que é exibido para o usuário.