O que é a Lakehouse Federation?

Visualização

Este recurso está em visualização pública.

Este artigo apresenta lakehouse Federation, a plataforma de federação query que permite usar o Databricks para executar query em várias fontes externas de dados. Ele também descreve como configurar conexões de federação lakehouse e criar catálogos estrangeiros em seu metastore Unity Catalog .

O que é a Federação Lakehouse?

lakehouse Federation é a plataforma de federação query para Databricks. O termo federaçãoquery descreve uma coleção de recursos que permitem que usuários e sistemas executem query em várias fontes de dados sem a necessidade de migrar todos os dados para um sistema unificado.

O Databricks usa o Unity Catalog para gerenciar a federação query . Você configura conexões somente leitura para soluções de banco de dados populares usando drivers que estão incluídos no Pro SQL warehouse, serverless SQL warehouse e Databricks Runtime clusters. As ferramentas de governança de dados e linhagem de dados do Unity Catalog garantem que o acesso aos dados seja gerenciado e auditado para todas query federadas feitas pelos usuários em seu workspace Databricks.

Por que usar a Federação Lakehouse?

O lakehouse enfatiza o armazenamento central de dados para reduzir a redundância e o isolamento dos dados. Sua organização pode ter vários sistemas de dados em produção, e o senhor pode querer consultar dados em sistemas conectados por vários motivos:

  • Reportagem ad hoc.

  • Trabalho de prova de conceito.

  • A fase exploratória de novos pipelines ou relatórios de ETL.

  • Suportando cargas de trabalho durante a migração incremental.

Em cada um desses cenários, a federação query leva você a um entendimento mais rápido, porque você pode query os dados no local e evitar o processamento ETL complexo e demorado.

lakehouse A federação é destinada a casos de uso em que:

  • Você não deseja ingerir dados no Databricks.

  • Você deseja que sua query aproveite a compute no sistema de banco de dados externo.

  • Você deseja as vantagens das interfaces do Unity Catalog e da governança de dados, incluindo controle de acesso refinado, linhagem de dados e pesquisa.

Visão geral da configuração da Lakehouse Federation

Para disponibilizar um dataset para consulta somente leitura usando lakehouse Federation, crie o seguinte:

  • Uma conexão, um objeto protegível no Unity Catalog que especifica um caminho e credenciais para acessar um sistema de banco de dados externo.

  • Um catálogo externo, um objeto protegível no Unity Catalog que espelha um banco de dados em um sistema de dados externo, permitindo que você execute query somente leitura nesse sistema de dados em seu workspace do Databricks, gerenciando o acesso usando Unity Catalog.

Fonte de dados suportada

lakehouse Federation oferece suporte a conexões com os seguintes tipos de banco de dados:

Requisitos de conexão

Requisitos workspace :

  • workspace ativado para Unity Catalog.

requisitos compute :

  • Conectividade de rede de seus clusters Databricks Runtime ou SQL warehouse para os sistemas de banco de dados de destino. Consulte as recomendações de rede para lakehouse Federation.

  • Os clusters do Databricks devem usar o Databricks Runtime 13.1 ou acima e o modo de acesso compartilhado ou de usuário único.

  • SQL warehouse deve ser Pro ou serverless.

Permissões necessárias:

  • Para criar uma conexão, você deve ser um administrador do metastore ou um usuário com o privilégio CREATE CONNECTION no metastore do Unity Catalog anexado ao workspace.

  • Para criar um catálogo externo, você deve ter a permissão CREATE CATALOG no metastore e ser o proprietário da conexão ou ter o privilégio CREATE FOREIGN CATALOG na conexão.

Requisitos de permissão adicionais são especificados em cada seção baseada em tarefa a seguir.

Criar uma conexão

Uma conexão especifica um caminho e credenciais para acessar um sistema de banco de dados externo. Para criar uma conexão, você pode usar o Catalog Explorer ou o comando SQL CREATE CONNECTION em um Notebook do Databricks ou no editor query Databricks SQL .

Permissões necessárias: administrador ou usuário do metastore com o privilégio CREATE CONNECTION .

  1. No seu workspace do Databricks, clique em Ícone de catálogo Catálogo.

  2. No painel esquerdo, expanda o menu Dados externos e selecione Conexões.

  3. Clique em Criar conexão.

  4. Digite um nome de conexão amigável.

  5. Selecione o tipo de conexão (provedor de banco de dados, como MySQL ou PostgreSQL).

  6. Insira as propriedades da conexão (como informações do host, caminho e credenciais de acesso).

    Cada tipo de conexão requer informações de conexão diferentes. Consulte os artigos para o seu tipo de conexão, listados no sumário à esquerda.

  7. (Opcional) Clique em Testar conexão para confirmar se funciona.

  8. (Opcional) Adicione um comentário.

  9. Clique em Criar.

execução do seguinte comando em um Notebook ou no editor query Databricks SQL . Este exemplo é para conexões com um banco de dados PostgreSQL. As opções diferem por tipo de conexão. Consulte os artigos para o seu tipo de conexão, listados no sumário à esquerda.

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user '<user>',
  password '<password>'
);

Recomendamos que você use segredos do Databricks em vez de strings de texto sem formatação para valores confidenciais, como credenciais. Por exemplo:

CREATE CONNECTION <connection-name> TYPE postgresql
OPTIONS (
  host '<hostname>',
  port '<port>',
  user secret ('<secret-scope>','<secret-key-user>'),
  password secret ('<secret-scope>','<secret-key-password>')
)

Para obter informações sobre como configurar segredos, consulte Gerenciamento de segredos.

Para obter informações sobre como gerenciar conexões existentes, consulte Gerenciar conexões para lakehouse Federation.

Criar um catálogo estrangeiro

Um catálogo externo espelha um banco de dados em um sistema de dados externo para que você possa query e gerenciar o acesso aos dados nesse banco de dados usando Databricks e Unity Catalog. Para criar um catálogo externo, você usa uma conexão com a fonte de dados que já foi definida.

Para criar um catálogo externo, você pode usar o Catalog Explorer ou o comando SQL CREATE FOREIGN CATALOG em um Notebook do Databricks ou no editor query Databricks SQL .

Permissões necessárias: permissão CREATE CATALOG no metastore e propriedade da conexão ou o privilégio CREATE FOREIGN CATALOG na conexão.

  1. No seu workspace do Databricks, clique em Ícone de catálogo Catálogo.

  2. Clique no botão Criar Catálogo .

  3. Na caixa de diálogo Criar um novo catálogo , insira um nome para o catálogo e selecione um Tipo de Estrangeiro.

  4. Selecione a conexão que fornece acesso ao banco de dados que você deseja espelhar como um catálogo do Unity Catalog.

  5. Digite o nome do banco de dados que você deseja espelhar como um catálogo.

    Os requisitos diferem dependendo da fonte de dados:

    • O MySQL usa um namespace de duas camadas e, portanto, não requer um nome de banco de dados.

    • Para conexões com um catálogo em outro workspace Databricks, insira o nome do Catálogo Databricks em vez de um nome de banco de dados.

  6. Clique em Criar.

  1. execução do seguinte comando SQL em um editor SQL Notebook ou Databricks SQL . Os itens entre colchetes são opcionais. Substitua os valores de espaço reservado:

    • <catalog-name>: Nome do catálogo no Databricks.

    • <connection-name>: O objeto de conexão que especifica a fonte de dados, o caminho e as credenciais de acesso.

    • <database-name>: Nome do banco de dados que você deseja espelhar como um catálogo no Databricks. Não é necessário para o MySQL, que usa um namespace de duas camadas.

    • <external-catalog-name>: Somente Databricks para Databricks : nome do catálogo no workspace externo do Databricks que você está espelhando. Consulte Criar um catálogo estrangeiro.

    CREATE FOREIGN CATALOG [IF NOT EXISTS] <catalog-name> USING CONNECTION <connection-name>
    OPTIONS (database '<database-name>');
    

Para obter informações sobre como gerenciar e trabalhar com catálogos estrangeiros, consulte Gerenciar e trabalhar com catálogos estrangeiros.

Federação de Lakehouse e visualizações materializadas

Databricks recomenda carregar o uso externo de dados lakehouse Federation quando você estiver criando view materializada. Consulte Usar visualizações materializadas no Databricks SQL.

Ao usar lakehouse Federation, os usuários podem fazer referência aos dados federados da seguinte forma:

CREATE MATERIALIZED VIEW xyz AS SELECT * FROM federated_catalog.federated_schema.federated_table;

Limitações

  • query são somente leitura.

  • A limitação de conexões é determinada usando o Databricks SQL query limite simultânea . Não há limite de armazéns por conexão. Consulte Enfileiramento e autoscale para SQL warehouseprofissional e clássico.

  • Tabelas e esquemas com nomes inválidos no Unity Catalog não são suportados e são ignorados pelo Unity Catalog na criação de um catálogo externo. Por exemplo, os nomes das tabelas são convertidos em letras minúsculas no Unity Catalog, o que significa que as pesquisas devem usar nomes em letras minúsculas. Consulte a lista de regras e limitações de nomenclatura em LimitaçõesUnity Catalog .

  • O suporte ao link privado e ao intervalo de IP estático serverless SQL warehouse no não está disponível.

  • Para cada tabela estrangeira referenciada, o Databricks programa uma subconsulta no sistema remoto para retornar um subconjunto de dados daquela tabela e então retorna o resultado para uma tarefa do executor do Databricks em uma única transmissão.

  • O modo de acesso de usuário único está disponível apenas para usuários que possuem a conexão.