Ingerir dados do SQL Server

Prévia

O LakeFlow Connect está em um Public Preview fechado. Para participar da pré-visualização, entre em contato com a equipe do Databricks account .

Este artigo descreve como ingerir dados de SQL Server e carregá-los em Databricks usando LakeFlow Connect.

O conector do Microsoft SQL Server (SQL Server) oferece suporte ao seguinte:

Azure SQL Database
Amazon RDS para SQL Server

Visão geral de os passos

Configure seu banco de dados de origem para ingestão.
Crie um gateway que se conecte ao banco de dados SQL Server, extraia o Snapshot e altere os dados do banco de dados de origem e armazene-os em um volume de preparação Unity Catalog.
Crie uma ingestão pipeline, que aplica o Snapshot e altera os dados do volume de preparação nas tabelas de transmissão de destino.
Programar a ingestão pipeline.

Antes de começar

Para criar um pipeline de ingestão, o senhor deve atender aos seguintes requisitos:

Seu workspace está habilitado para Unity Catalog.
O compute sem servidor está habilitado para Notebook, fluxo de trabalho e Delta Live Tables. Consulte Ativar serverless compute .
Para criar uma conexão: CREATE CONNECTION na metastore.

Para usar uma conexão existente: USE CONNECTION ou ALL PRIVILEGES na conexão.
USE CATALOG no catálogo de destino.
USE SCHEMA, CREATE TABLE e CREATE VOLUME em um esquema existente ou CREATE SCHEMA no catálogo de destino.

Permissões irrestritas para criar clusters ou uma política personalizada. Uma política personalizada deve atender aos seguintes requisitos:

Família: Job compute

A família de políticas substitui:

{
  "cluster_type": {
    "type": "fixed",
    "value": "dlt"
  },
  "num_workers": {
    "type": "unlimited",
    "defaultValue": 1,
    "isOptional": true
  },
  "runtime_engine": {
    "type": "fixed",
    "value": "STANDARD",
    "hidden": true
  }
}

Os nós worker (node_type_id) não são usados, mas são necessários para a execução da DLT. Especifique um nó mínimo:

"driver_node_type_id": {
  "type": "unlimited",
  "defaultValue": "r5.xlarge",
  "isOptional": true
},
"node_type_id": {
  "type": "unlimited",
  "defaultValue": "m4.large",
  "isOptional": true
}

Para obter mais informações sobre a política de cluster, consulte Select a política de cluster.

Configurar o banco de dados de origem para ingestão

Consulte Configurar o SQL Server para ingestão no Databricks.

Criar uma conexão com o SQL Server

O conector usa um objeto de conexão do Unity Catalog para armazenar e acessar as credenciais do banco de dados de origem.

Observação

Permissões necessárias

Para criar uma nova conexão, CREATE CONNECTION no metastore. Entre em contato com um administrador do metastore para conceder isso.
Para usar uma conexão existente, USE CONNECTION ou ALL PRIVILEGES no objeto de conexão. Entre em contato com o proprietário da conexão para concedê-las.

Para criar a conexão, faça o seguinte:

No site Databricks workspace, clique em Catalog > External Data > Connections (Catálogo > Dados externos > Conexões).
Clique em Create connection (Criar conexão). Se não vir esse botão, talvez o senhor não tenha privilégios CREATE CONNECTION.
Digite um nome de conexão exclusivo.
Para o tipo de conexão, selecione SQL Server.
Para Host, especifique o nome de domínio do SQL Server.
Para User e Password, digite suas credenciais de login do SQL Server.
Clique em Criar.

Observação

Testar a conexão para verificar se o host está acessível. Ele não testa as credenciais do usuário quanto aos valores corretos de nome de usuário e senha.

Criar um catálogo e esquemas de teste

O conector do SQL Server cria um volume de preparação do Unity Catalog para armazenar dados intermediários em um catálogo e esquema de preparação do Unity Catalog que o senhor especificar.

O catálogo de teste e o esquema podem ser iguais aos do catálogo e do esquema de destino. O catálogo de teste não pode ser um catálogo estrangeiro.

Observação

Permissões necessárias

Para criar um novo catálogo de preparação, CREATE CATALOG no metastore. Entre em contato com um administrador do metastore para conceder isso.
Para usar um catálogo de preparação existente, USE CATALOG no catálogo. Entre em contato com o proprietário do catálogo para conceder isso.
Para criar um novo esquema de preparação, CREATE SCHEMA no catálogo. Entre em contato com o proprietário do catálogo para conceder isso.
Para usar um esquema de preparação existente, USE SCHEMA, CREATE VOLUME e CREATE TABLE no esquema. Entre em contato com o proprietário do esquema para concedê-las.

No site Databricks workspace, clique em Catalog (Catálogo).
No Catalog tab, siga um destes procedimentos:
Clique em Create catalog (Criar catálogo). Se não vir esse botão, o senhor não tem privilégios CREATE CATALOG.
Digite um nome exclusivo para o catálogo e clique em Create (Criar).
Selecione o catálogo que o senhor criou.
Clique em Create schema (Criar esquema). Se não vir esse botão, o senhor não tem privilégios CREATE SCHEMA.
Digite um nome exclusivo para o esquema e clique em Create (Criar).

export CONNECTION_NAME="my_connection"
export TARGET_CATALOG="main"
export TARGET_SCHEMA="lakeflow_sqlserver_connector_cdc"
export STAGING_CATALOG=$TARGET_CATALOG
export STAGING_SCHEMA=$TARGET_SCHEMA
export DB_HOST="cdc-connector.database.windows.net"
export DB_USER="..."
export DB_PASSWORD="..."

output=$(databricks connections create --json '{
  "name": "'"$CONNECTION_NAME"'",
  "connection_type": "SQLSERVER",
  "options": {
    "host": "'"$DB_HOST"'",
    "port": "1433",
    "trustServerCertificate": "false",
    "user": "'"$DB_USER"'",
    "password": "'"$DB_PASSWORD"'"
  }
}')

export CONNECTION_ID=$(echo $output | jq -r '.connection_id')

Criar o gateway e o pipeline de ingestão

O gateway extrai o Snapshot e altera os dados do banco de dados de origem e os armazena no volume de preparação Unity Catalog. log Para evitar problemas com lacunas nos dados de alteração devido a políticas de retenção de alterações no banco de dados de origem, execute o gateway como um pipeline contínuo.

A ingestão pipeline aplica o Snapshot e altera os dados do volume de preparação nas tabelas de transmissão de destino.

Observação

Só há suporte para um pipeline de ingestão por gateway.

Embora a API permita isso, o pipeline de ingestão não é compatível com mais de um catálogo e esquema de destino. Se o senhor precisar gravar em vários catálogos ou esquemas de destino, crie vários pares de gateway-ingestion pipeline.

Observação

Permissões necessárias

Para criar um pipeline, o senhor precisa de Unrestricted cluster creation permissões. Entre em contato com um administrador do account.

Atualize a célula Configuration no Notebook a seguir com a conexão de origem, o catálogo de destino, o esquema de destino e as tabelas a serem ingeridas da origem.

Criar gateway e pipeline de ingestão

Abra o bloco de anotações em outra guia

Para criar o gateway:

output=$(databricks pipelines create --json '{
"name": "'"$GATEWAY_PIPELINE_NAME"'",
"gateway_definition": {
  "connection_id": "'"$CONNECTION_ID"'",
  "gateway_storage_catalog": "'"$STAGING_CATALOG"'",
  "gateway_storage_schema": "'"$STAGING_SCHEMA"'",
  "gateway_storage_name": "'"$GATEWAY_PIPELINE_NAME"'"
  }
}')

export GATEWAY_PIPELINE_ID=$(echo $output | jq -r '.pipeline_id')

Para criar o pipeline de ingestão:

databricks pipelines create --json '{
"name": "'"$INGESTION_PIPELINE_NAME"'",
"ingestion_definition": {
  "ingestion_gateway_id": "'"$GATEWAY_PIPELINE_ID"'",
  "objects": [
    {"table": {
        "source_catalog": "tpc",
        "source_schema": "tpch",
        "source_table": "lineitem",
        "destination_catalog": "'"$TARGET_CATALOG"'",
        "destination_schema": "'"$TARGET_SCHEMA"'",
        "destination_table": "<YOUR_DATABRICKS_TABLE>",
        }},
     {"schema": {
        "source_catalog": "tpc",
        "source_schema": "tpcdi",
        "destination_catalog": "'"$TARGET_CATALOG"'",
        "destination_schema": "'"$TARGET_SCHEMA"'"
        "destination_table": "<YOUR_DATABRICKS_SECOND_TABLE>",
        }}
    ]
  }
}'

Configurar um programa de acionamento para a ingestão pipeline

Observação

Somente o modo acionado é compatível com a execução do pipeline de ingestão.

O senhor pode criar um programa para o pipeline usando a UI do DLT pipeline clicando no botão no canto superior direito da tela da UI do pipeline.

A UI cria automaticamente um Job para executar o pipeline de acordo com o programar especificado. O trabalho é mostrado em Jobs tab.

Verificar se a ingestão de dados foi bem-sucedida

A lista view na interface de usuário de ingestão pipeline mostra o número de registros processados à medida que os dados são ingeridos. Esses números são automaticamente refresh.

As colunas Upserted records e Deleted records não são exibidas em default. Você pode ativá-las clicando no botão de configuração das colunas e selecionando-as.

começar, programar e definir alertas em seu pipeline

Depois que o pipeline tiver sido criado, acesse novamente o Databricks workspace e clique em Delta Live Tables.

O novo pipeline aparece na lista pipeline.
Para acessar view os detalhes de pipeline, clique no nome pipeline.
Na página de detalhes do pipeline, execute o pipeline clicando em começar. O senhor pode programar o pipeline clicando em programar.
Para definir o alerta no site pipeline, clique em programar, clique em Mais opções e, em seguida, adicione uma notificação.
Após a conclusão da ingestão, o senhor pode consultar suas tabelas.