Limitações do DLT

Veja a seguir as limitações da DLT que é importante conhecer ao desenvolver seu pipeline:

• Um Databricks workspace está limitado a 100 atualizações concorrente pipeline. O número de conjuntos de dados que um único pipeline pode conter é determinado pela configuração do pipeline e pela complexidade da carga de trabalho.

• DLT pode ser definido apenas uma vez. Por esse motivo, eles podem ser alvo de apenas uma única operação em todo o pipeline DLT. A exceção são as tabelas de transmissão com processamento de fluxo de acréscimo, que permitem que o senhor grave na tabela de transmissão a partir de várias fontes de transmissão. Consulte Uso de vários fluxos para gravar em um único destino.

• As colunas de identidade têm as seguintes limitações. Para saber mais sobre colunas de identidade em tabelas Delta, consulte Usar colunas de identidade no Delta Lake.

  • As colunas de identidade não são suportadas com tabelas que são o destino do processamento APPLY CHANGES.
  • As colunas de identidade podem ser recalculadas durante as atualizações de uma visualização materializada. Por esse motivo, o site Databricks recomenda o uso de colunas de identidade em DLT somente com tabelas de transmissão.

• A visualização materializada e as tabelas de transmissão publicadas em DLT pipeline, inclusive as criadas por Databricks SQL, podem ser acessadas somente por clientes e aplicativos Databricks. No entanto, para tornar a visualização materializada e as tabelas de transmissão acessíveis externamente, o senhor pode usar o DLT sink API para gravar em tabelas em uma instância externa Delta. Consulte Usar sinks para transmitir registros para um serviço externo com DLT.

• O senhor não pode usar o site Delta Sharing para compartilhar a visualização materializada e as tabelas de transmissão criadas por um DLT pipeline.

• Há limitações para o Databricks compute necessário para executar e consultar o pipeline Unity Catalog. Consulte os Requisitos para o pipeline que é publicado em Unity Catalog.

• Delta Lake As consultas de viagem do tempo são compatíveis apenas com tabelas de transmissão e não são compatíveis com visualizações materializadas. Consulte Work with Delta Lake table história.

• O senhor não pode habilitar Iceberg reads na visualização materializada e nas tabelas de transmissão criadas pelo pipeline DLT.

• A função pivot() não é suportada. As pivot operações em Spark exigem o carregamento ansioso dos dados de entrada para compute o esquema de saída. Esse recurso não é compatível com o DLT.