O que é a Lakehouse Federation?

Este artigo apresenta a Lakehouse Federation, a plataforma de federação de consultas que permite usar o Databricks para executar consultas em várias fontes de dados externas. Descreve também como configurar conexões de Lakehouse Federation e criar catálogos externos na metastore do Unity Catalog.

O que é a Lakehouse Federation?

A Lakehouse Federation é a plataforma de federação de consultas do Databricks. O termo federação de consultas descreve um conjunto de recursos que permitem que usuários e sistemas executem consultas em várias fontes de dados sem precisar migrar todos os dados para um sistema unificado.

O Databricks utiliza o Unity Catalog para gerenciar a federação de consultas. Você configura conexões somente leitura com soluções populares de banco de dados com drivers incluídos nos clusters Pro SQL Warehouses, Serverless SQL Warehouses e Databricks Runtime. As ferramentas de governança e linhagem de dados do Unity Catalog garantem que o acesso aos dados seja gerenciado e auditado para todas as consultas federadas feitas pelos usuários em seus espaços de trabalho do Databricks.

Por que usar a Lakehouse Federation?

O lakehouse enfatiza o armazenamento central de dados para reduzir a redundância e o isolamento dos dados. Sua organização pode ter vários sistemas de dados em produção e talvez você queira consultar dados em sistemas conectados por vários motivos:

Relatórios ad hoc.
Trabalho de prova de conceito.
A fase exploratória de novos pipelines ou relatórios de ETL.
Suporte a cargas de trabalho durante a migração incremental.

Em cada um desses cenários, a federação de consultas permite que você receba insights mais rápido, pois pode consultar os dados no local e evitar o processamento complexo e demorado de ETL.

A Lakehouse Federation foi criada para casos de uso em que:

Você não deseja ingerir dados no Databricks.
Você deseja que suas consultas aproveitem a computação no sistema de banco de dados externo.
Você deseja as vantagens das interfaces do Unity Catalog e da governança de dados, incluindo controle de acesso refinado, linhagem de dados e pesquisa.

Visão geral da configuração da Lakehouse Federation

Para tornar um conjunto de dados disponível para consulta e somente para leitura com o Lakehouse Federation, cria-se o seguinte:

Uma conexão, um objeto seguro no Unity Catalog que especifica um caminho e credenciais para acessar um sistema de banco de dados externo.
Um catálogo externo, um objeto que pode ser protegido no Unity Catalog que espelha um banco de dados em um sistema de dados externo, permitindo a execução de consultas somente para leitura nesse sistema de dados em seu workspace do Databricks, gerenciando o acesso com o Unity Catalog.

Fontes de dados compatíveis

A Lakehouse Federation é compatível com conexões com os seguintes tipos de banco de dados:

Requisitos de conexão

Requisitos do workspace:

Espaço de trabalho preparado para o Catálogo do Unity.

Requisitos de computação:

Conectividade de rede do seu recurso compute para os sistemas de banco de dados de destino. Veja as recomendações do Networking para a Lakehouse Federation.
Databricks compute deve usar Databricks Runtime 13.3 LTS ou acima e modo de acesso de usuário compartilhado ou único.
Os SQL warehouse devem ser Pro ou Serverless e devem utilizar a versão 2023.40 ou superior.

Permissões necessárias:

Para criar uma conexão, é preciso ser administrador de metastore ou usuário com o privilégio CREATE CONNECTION no metastore do Unity Catalog anexado ao espaço de trabalho.
Para criar um catálogo externo é preciso ter a permissão CREATE CATALOG no metastore e ser proprietário da conexão ou ter o privilégio CREATE FOREIGN CATALOG na conexão.

Outros requisitos de permissão são definidos em cada seção baseada em tarefa a seguir.

Criar uma conexão

A conexão especifica um caminho e as credenciais para acessar um sistema de banco de dados externo. Para criar uma conexão, você pode usar o Catalog Explorer ou o comando CREATE CONNECTION do SQL em um Notebook do Databricks ou no editor de consultas SQL do Databricks.

Observação

O senhor também pode usar a API REST da Databricks ou a CLI da Databricks para criar uma conexão. Veja POST /api/2.1/unity-catalog/connections e Unity Catalog comando.

Permissões necessárias: Administrador do Metastore ou usuário com o privilégio CREATE CONNECTION.

No seu workspace do Databricks, clique em Catálogo.
Na parte superior do painel Catálogo , clique no ícone Adicionar e selecione Adicionar uma conexão no menu.

Como alternativa, na página de acesso rápido, clique no botão Dados externos >, acesse a tab Conexões e clique em Criar conexão.
Insira um nome de conexão fácil de lembrar.
Selecione o tipo de conexão (provedor de banco de dados, como MySQL ou PostgreSQL).
Insira as propriedades da conexão (como informações do host, caminho e credenciais de acesso).

Cada tipo de conexão exige informações de conexão diferentes. Consulte o artigo para saber o tipo da conexão, listado no índice à esquerda.
(Opcional) Clique em Testar conexão para confirmar se está funcionando.
(Opcional) Adicione um comentário.
Clique em Criar.

Execute o seguinte comando em um notebook ou no editor de consultas SQL. Este exemplo é para conexões com um banco de dados PostgreSQL. As opções diferem de acordo com o tipo de conexão. Consulte o artigo do seu tipo de conexão, listado no índice à esquerda.

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user '<user>',
  password '<password>'
);

Recomendamos que você utilize segredos do Databricks em vez de cadeias de texto simples para valores confidenciais, como credenciais. Por exemplo:

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user secret ('<secret-scope>','<secret-key-user>'),
  password secret ('<secret-scope>','<secret-key-password>')
)

Para obter informações sobre como configurar segredos, consulte Gerenciamento de segredos.

Para obter informações sobre como gerenciar conexões existentes, consulte Gerenciar conexões para a Lakehouse Federation.

Crie um catálogo externo

Um catálogo externo espelha um banco de dados em um sistema de dados externo para você consultar e gerenciar o acesso aos dados nesse banco de dados com Databricks e Unity Catalog. Para criar um catálogo externo, utiliza-se uma conexão com a fonte de dados que já foi definida.

Para criar um catálogo externo, utilize o Explorador de Catálogos ou o comando SQL CREATE FOREIGN CATALOG em um notebook do Databricks ou no editor de consultas SQL.

Observação

Você pode usar também a API do Unity Catalog. Consulte a Documentação de referência do Databricks.

Os metadados do catálogo externo são sincronizados com o Unity Catalog em cada interação com o catálogo. Para mapeamento de tipos de dados entre o Unity Catalog e a fonte de dados, verifique a seção Mapeamentos de tipos de dados da documentação de cada fonte de dados.

Permissões necessárias: permissão CREATE CATALOG na metastore e propriedade da conexão ou o privilégio CREATE FOREIGN CATALOG na conexão.

No seu workspace do Databricks, clique em Catálogo para abrir o Catalog Explorer.
Na parte superior do painel Catálogo, clique no ícone Adicionar e selecione Adicionar um catálogo no menu.

Como alternativa, na página de acesso rápido, clique no botão Catálogos e no botão Criar catálogo.
Siga as instruções para criar catálogos externos em Criar catálogos.

Execute o seguinte comando SQL em um notebook ou no editor de consultas SQL. Os itens entre colchetes são opcionais. Substitua os valores temporários:

<catalog-name>: Nome para o catálogo no Databricks.
<connection-name>: o objeto de conexão que especifica a fonte de dados, o caminho e as credenciais de acesso.
<database-name>: Nome do banco de dados que você deseja espelhar como um catálogo no Databricks. Não é necessário no MySQL, que usa um namespace de duas camadas.
<external-catalog-name>: somente Databricks-to-Databricks: nome do catálogo no workspace externo do Databricks que você está espelhando. Consulte Criar um catálogo externo.

CREATE FOREIGN CATALOG [IF NOT EXISTS] <catalog-name> USING CONNECTION <connection-name>
OPTIONS (database '<database-name>');

Para ver informações sobre como gerenciar e trabalhar com catálogos externos, consulte Gerenciar e trabalhar com catálogos externos.

Federação Lakehouse e views materializadas

A Databricks recomenda o carregamento de dados externos com a Lakehouse Federation quando você estiver criando visões materializadas. Consulte Utilizar visões materializadas no Databricks SQL.

Quando se usa a Lakehouse Federation, os usuários podem fazer referência aos dados federados da seguinte forma:

CREATE MATERIALIZED VIEW xyz AS SELECT * FROM federated_catalog.federated_schema.federated_table;

Exibir consultas federadas geradas pelo sistema

A Lakehouse Federation converte as instruções do Databricks SQL em instruções que podem ser processadas para a fonte de dados federada. Para ver o SQL gerado, clique no nó de verificação da fonte de dados na vista do gráfico do Perfil de consulta ou execute a instrução SQL EXPLAIN FORMATTED. Consulte a seção Processamento permitido da documentação de cada fonte de dados para ver as informações sobre a cobertura.

Limitações

As consultas somente permitem leitura.
O controle das conexões é determinado usando o limite de consultas simultâneas do Databricks SQL. Não há limite nos warehouses por conexão. Consulte Enfileiramento e autoscale para warehouses SQL pro e clássicos.
Tabelas e esquemas com nomes inválidos no Unity Catalog não são suportados e são ignorados pelo Unity Catalog na criação de um catálogo externo. Veja a lista de regras e limitações de nomenclatura em Limitações.
Os nomes das tabelas e dos esquemas são convertidos para minúsculas no Unity Catalog. As pesquisas também devem usar nomes em minúsculas. Se houver tabelas ou esquemas com nomes duplicados em minúsculas, somente uma das tabelas ou esquemas será importada para o catálogo externo.
Para cada tabela estrangeira referenciada, Databricks programa uma subconsulta no sistema remoto para retornar um subconjunto de dados dessa tabela e, em seguida, retorna o resultado para uma Databricks executor tarefa em uma única transmissão. Se o conjunto de resultados for muito grande, o site executor poderá ficar sem memória.
O modo de acesso de usuário único está disponível somente para usuários que possuem a conexão.
A Lakehouse Federation não pode federar tabelas externas com identificadores que diferenciam maiúsculas e minúsculas para conexões do Azure Synapse ou do Redshift.

Cotas de recursos

Databricks impõe cotas de recurso em todos os objetos protegíveis do site Unity Catalog. Essas cotas são listadas em limites de recurso. Os catálogos estrangeiros e todos os objetos que eles contêm estão incluídos no uso total da cota.

Se você espera exceder esses limites de recursos, entre em contato com sua equipe de account Databricks.

O senhor pode monitorar o uso da cota usando o recurso Unity Catalog quotas APIs. Consulte Monitorar o uso das cotas de recurso do Unity Catalog .

Outros recursos

Consultas federadas (Lakehouse Federation) na referência da linguagem SQL