O que é a Lakehouse Federation?

Visualização

Este recurso está em visualização pública.

Este artigo apresenta lakehouse Federation, a plataforma de federação query que permite usar o Databricks para executar query em várias fontes externas de dados. Ele também descreve como configurar conexões de federação lakehouse e criar catálogos estrangeiros em seu metastore Unity Catalog .

O que é a Federação Lakehouse?

lakehouse Federation é a plataforma de federação query para Databricks. O termo federaçãoquery descreve uma coleção de recursos que permitem que usuários e sistemas executem query em várias fontes de dados sem a necessidade de migrar todos os dados para um sistema unificado.

O Databricks usa o Unity Catalog para gerenciar a federação query . Você configura conexões somente leitura para soluções de banco de dados populares usando drivers que estão incluídos no Pro SQL warehouse, serverless SQL warehouse e Databricks Runtime clusters. As ferramentas de governança de dados e linhagem de dados do Unity Catalog garantem que o acesso aos dados seja gerenciado e auditado para todas query federadas feitas pelos usuários em seu workspace Databricks.

Por que usar a Federação Lakehouse?

O lakehouse enfatiza o armazenamento central de dados para reduzir a redundância e o isolamento dos dados. Sua organização pode ter vários sistemas de dados em produção, e o senhor pode querer consultar dados em sistemas conectados por vários motivos:

Reportagem ad hoc.
Trabalho de prova de conceito.
A fase exploratória de novos pipelines ou relatórios de ETL.
Suportando cargas de trabalho durante a migração incremental.

Em cada um desses cenários, a federação query leva você a um entendimento mais rápido, porque você pode query os dados no local e evitar o processamento ETL complexo e demorado.

lakehouse A federação é destinada a casos de uso em que:

Você não deseja ingerir dados no Databricks.
Você deseja que sua query aproveite a compute no sistema de banco de dados externo.
Você deseja as vantagens das interfaces do Unity Catalog e da governança de dados, incluindo controle de acesso refinado, linhagem de dados e pesquisa.

Visão geral da configuração da Lakehouse Federation

Para disponibilizar um dataset para consulta somente leitura usando lakehouse Federation, crie o seguinte:

Uma conexão, um objeto protegível no Unity Catalog que especifica um caminho e credenciais para acessar um sistema de banco de dados externo.
Um catálogo externo, um objeto protegível no Unity Catalog que espelha um banco de dados em um sistema de dados externo, permitindo que você execute query somente leitura nesse sistema de dados em seu workspace do Databricks, gerenciando o acesso usando Unity Catalog.

Fonte de dados suportada

lakehouse Federation oferece suporte a conexões com os seguintes tipos de banco de dados:

Requisitos de conexão

Requisitos workspace :

workspace ativado para Unity Catalog.

requisitos compute :

Conectividade de rede de seus clusters Databricks Runtime ou SQL warehouse para os sistemas de banco de dados de destino. Consulte as recomendações de rede para lakehouse Federation.
Databricks clusters deve usar Databricks Runtime 13.3 LTS ou acima e o modo de acesso compartilhado ou de usuário único.
SQL O armazém deve ser Pro ou serverless e deve usar 2023.40 ou acima.

Permissões necessárias:

Para criar uma conexão, você deve ser um administrador do metastore ou um usuário com o privilégio CREATE CONNECTION no metastore do Unity Catalog anexado ao workspace.
Para criar um catálogo externo, você deve ter a permissão CREATE CATALOG no metastore e ser o proprietário da conexão ou ter o privilégio CREATE FOREIGN CATALOG na conexão.

Requisitos de permissão adicionais são especificados em cada seção baseada em tarefa a seguir.

Criar uma conexão

Uma conexão especifica um caminho e credenciais para acessar um sistema de banco de dados externo. Para criar uma conexão, você pode usar o Catalog Explorer ou o comando SQL CREATE CONNECTION em um Notebook do Databricks ou no editor query Databricks SQL .

Permissões necessárias: administrador ou usuário do metastore com o privilégio CREATE CONNECTION .

No seu workspace do Databricks, clique em Catálogo.
Na parte superior do painel Catálogo, clique no ícone Add e selecione Add a connection (Adicionar uma conexão ) no menu.

Como alternativa, na página Quick access (Acesso rápido ), clique no botão External data (Dados externos) >, acesse Connections (Conexões ) tab e clique em Create connection (Criar conexão).
Digite um nome de conexão amigável.
Selecione o tipo de conexão (provedor de banco de dados, como MySQL ou PostgreSQL).
Insira as propriedades da conexão (como informações do host, caminho e credenciais de acesso).

Cada tipo de conexão requer informações de conexão diferentes. Consulte os artigos para o seu tipo de conexão, listados no sumário à esquerda.
(Opcional) Clique em Testar conexão para confirmar se funciona.
(Opcional) Adicione um comentário.
Clique em Criar.

Execute o seguinte comando em um Notebook ou no editor de consultas SQL. Este exemplo é para conexões com um banco de dados PostgreSQL. As opções diferem de acordo com o tipo de conexão. Consulte os artigos para seu tipo de conexão, listados no índice à esquerda.

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user '<user>',
  password '<password>'
);

Recomendamos que você use segredos do Databricks em vez de strings de texto sem formatação para valores confidenciais, como credenciais. Por exemplo:

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user secret ('<secret-scope>','<secret-key-user>'),
  password secret ('<secret-scope>','<secret-key-password>')
)

Para obter informações sobre como configurar segredos, consulte Gerenciamento de segredos.

Para obter informações sobre como gerenciar conexões existentes, consulte Gerenciar conexões para lakehouse Federation.

Criar um catálogo estrangeiro

Um catálogo externo espelha um banco de dados em um sistema de dados externo para que você possa query e gerenciar o acesso aos dados nesse banco de dados usando Databricks e Unity Catalog. Para criar um catálogo externo, você usa uma conexão com a fonte de dados que já foi definida.

Para criar um catálogo externo, o senhor pode usar o Catalog Explorer ou o comando CREATE FOREIGN CATALOG SQL em um Databricks Notebook ou o editor de consultas SQL.

Observação

O senhor também pode usar a API do Unity Catalog. Consulte a documentação de referência do Databricks.

Os metadados de catálogos estrangeiros são sincronizados no Unity Catalog em cada interação com o catálogo. Para obter o mapeamento de tipos de dados entre Unity Catalog e a fonte de dados, verifique a seção Data Type Mappings (Mapeamentos de tipos de dados) da documentação de cada fonte de dados.

Permissões necessárias: permissão CREATE CATALOG no metastore e propriedade da conexão ou o privilégio CREATE FOREIGN CATALOG na conexão.

Em seu site Databricks workspace, clique em Catalog para abrir o Catalog Explorer.
Na parte superior do painel Catalog (Catálogo ), clique no ícone Add (Adicionar ) e selecione Add a catalog (Adicionar um catálogo ) no menu.

Como alternativa, na página de acesso rápido, clique no botão Catalogs (Catálogos ) e, em seguida, clique no botão Create catalog (Criar catálogo ).
Siga as instruções para criar catálogos estrangeiros em Criar catálogos.

Execute o seguinte comando SQL em um Notebook ou no editor de consultas SQL. Os itens entre parênteses são opcionais. Substitua os valores do espaço reservado:

<catalog-name>: Nome do catálogo no Databricks.
<connection-name>: O objeto de conexão que especifica a fonte de dados, o caminho e as credenciais de acesso.
<database-name>: Nome do banco de dados que você deseja espelhar como um catálogo no Databricks. Não é necessário para o MySQL, que usa um namespace de duas camadas.
<external-catalog-name>: Somente Databricks para Databricks : nome do catálogo no workspace externo do Databricks que você está espelhando. Consulte Criar um catálogo estrangeiro.

CREATE FOREIGN CATALOG [IF NOT EXISTS] <catalog-name> USING CONNECTION <connection-name>
OPTIONS (database '<database-name>');

Para obter informações sobre como gerenciar e trabalhar com catálogos estrangeiros, consulte Gerenciar e trabalhar com catálogos estrangeiros.

Federação de Lakehouse e visualizações materializadas

Databricks recomenda o carregamento do uso externo de dados lakehouse Federation quando o senhor estiver criando uma visualização materializada. Consulte Usar a visualização materializada em Databricks SQL.

Ao usar lakehouse Federation, os usuários podem fazer referência aos dados federados da seguinte forma:

CREATE MATERIALIZED VIEW xyz AS SELECT * FROM federated_catalog.federated_schema.federated_table;

Visualizar as consultas federadas geradas pelo sistema

lakehouse A federação traduz as declarações do site Databricks SQL em declarações que podem ser transferidas para a fonte de dados federada. Para view a instrução gerada SQL, clique no nó foreign fonte de dados scan no gráfico view do Query Profile ou execute a instrução EXPLAIN FORMATTED SQL. Consulte a seção Pushdown suportado da documentação de cada fonte de dados para obter cobertura.

Limitações

query são somente leitura.
A limitação de conexões é determinada usando o Databricks SQL query limite simultânea . Não há limite de armazéns por conexão. Consulte Enfileiramento e autoscale para SQL warehouseprofissional e clássico.
Tabelas e esquemas com nomes inválidos no Unity Catalog não são suportados e são ignorados pelo Unity Catalog na criação de um catálogo externo. Consulte a lista de regras de nomenclatura e limitações em Limitações.
Os nomes de tabelas e de esquemas são convertidos em letras minúsculas no Unity Catalog. As pesquisas também devem usar nomes em letras minúsculas. Se houver tabelas ou esquemas com nomes duplicados em letras minúsculas, somente uma das tabelas ou esquemas será importada para o catálogo externo.
O suporte a link privado e intervalo de IP estático no armazém serverless SQL não está disponível.
Para cada tabela estrangeira referenciada, o Databricks programa uma subconsulta no sistema remoto para retornar um subconjunto de dados daquela tabela e então retorna o resultado para uma tarefa do executor do Databricks em uma única transmissão.
O modo de acesso de usuário único está disponível apenas para usuários que possuem a conexão.
lakehouse A federação não pode federar tabelas estrangeiras com identificadores que diferenciam maiúsculas de minúsculas para conexões Azure Synapse ou Redshift.

Recursos adicionais

Consultas federadas (lakehouse Federation) na referência de linguagem SQL