Padrões comuns para o pipeline de ingestão de gerenci
LakeFlow Connect fornece padrões e técnicas para otimizar seu pipeline de ingestão de gerenciamento. Utilize esses padrões para controlar quais dados são ingeridos, gerenciar atualizações de pipeline e configurar comportamentos avançados.
Nem todos os conectores suportam os padrões comuns desta seção.
tópico | Descrição |
|---|---|
Selecione ou exclua colunas específicas durante a ingestão para reduzir o volume de dados e melhorar o desempenho. | |
Force uma recarga completa dos seus dados a partir do sistema de origem. | |
Acompanhe as alterações históricas no seu uso de dados dimensões que mudam lentamente (SCD) (SCD) tipo 2. | |
Ingerir dados de uma única fonte para várias tabelas ou catálogos de destino. | |
gerenciar atualizações pipeline , pausa e solução de problemas de fluxo de trabalho. | |
Renomeie as tabelas de destino sem recriar seu pipeline. |