Limitações do DLT

Veja a seguir as limitações da DLT que é importante conhecer ao desenvolver seu pipeline:

• Um Databricks workspace está limitado a 100 atualizações concorrente pipeline. O número de conjuntos de dados que um único pipeline pode conter é determinado pela configuração do pipeline e pela complexidade da carga de trabalho.

• O conjunto de dados DLT pode ser definido apenas uma vez. Por esse motivo, eles podem ser alvo de apenas uma única operação em todo o pipeline de DLT. A exceção são as tabelas de transmissão com processamento de fluxo de acréscimo, que permitem que o senhor grave na tabela de transmissão a partir de várias fontes de transmissão. Consulte Usar fluxo append para gravar em uma tabela de transmissão a partir de várias fontes de transmissão.

• As colunas de identidade têm as seguintes limitações. Para saber mais sobre colunas de identidade em tabelas Delta, consulte Usar colunas de identidade no Delta Lake.

  • As colunas de identidade não são suportadas com tabelas que são o destino do processamento APPLY CHANGES.
  • As colunas de identidade podem ser recalculadas durante as atualizações de uma visualização materializada. Por esse motivo, o site Databricks recomenda o uso de colunas de identidade em DLT somente com tabelas de transmissão.

• A visualização materializada e as tabelas de transmissão publicadas a partir de um DLT pipeline, incluindo aquelas criadas por Databricks SQL, podem ser acessadas somente por clientes e aplicativos Databricks. No entanto, para tornar a visualização materializada e as tabelas de transmissão acessíveis externamente, o senhor pode usar o DLT sink API para gravar em tabelas em uma instância externa do Delta. Veja os registros de transmissão para serviços externos com sinks DLT.

• O senhor não pode usar o site Delta Sharing para compartilhar a visualização materializada e as tabelas de transmissão criadas por um DLT pipeline.

• Há limitações para o Databricks compute necessário para executar e consultar o pipeline Unity Catalog. Consulte os Requisitos para o pipeline que é publicado em Unity Catalog.

• Somente o proprietário do pipeline pode acessar o evento log para um pipeline. Consulte Consultar o evento log.

• Delta Lake As consultas de viagem do tempo são compatíveis apenas com tabelas de transmissão e não são compatíveis com visualizações materializadas. Consulte Work with Delta Lake table história.

• O senhor não pode habilitar Iceberg reads na visualização materializada e nas tabelas de transmissão criadas pelo pipeline DLT.