Pular para o conteúdo principal

Usar parâmetros no Lakeflow Designer

Parâmetros são valores nomeados definidos para a preparação de dados visuais como um todo. Você pode referenciar parâmetros em código de operador SQL e Python, em campos de configuração de operador suportados e em expressões que ativam ou desativam operadores. Os parâmetros permitem a execução da mesma preparação de dados visuais em ambientes diferentes, por exemplo, um catálogo de teste durante o desenvolvimento e um catálogo de produção na produção.

Definir parâmetros​

Para gerenciar parâmetros, selecione Parâmetros no painel esquerdo. Cada parâmetro tem um valor que você define quando o define. Quando a preparação de dados visuais está em execução conforme o programar ou como um Job, você pode substituir esse valor. Consulte Substituir valores de parâmetro na produção.

Referencie um parâmetro de um operador​

A forma como você referencia um parâmetro depende de onde você o utiliza:

  • Operador SQL : Use a sintaxe de marcador de parâmetro nomeado, como :environment. Consulte Usar marcadores de parâmetro nomeados.
  • Operador Python : Chame dbutils.widgets.get(), como dbutils.widgets.get("environment"). Consulte Ferramenta de widgets (dbutils.widgets).
  • Campos de configuração do operador compatíveis : no painel de configuração do operador, selecione Parâmetros no canto superior direito. Selecione um campo e insira uma expressão como :source_table. Os campos compatíveis incluem:
    • Origem : Tabela , Caminho do arquivo e Formato do arquivo .
    • Saída : Catálogo , Esquema , Tabela , View , Volume , Nome do arquivo e Modo de escrita .
    • Limite : Limite .
    • Combinar : Operação de conjunto , Estratégia de merge , União por nome e Permitir colunas ausentes .

Ao abrir um operador SQL ou Python para edição, o Lakeflow Designer mostra um exemplo de como referenciar os parâmetros disponíveis acima do editor de origem.

Combinar parâmetros com texto fixo​

Em uma expressão de parâmetro para um operador de Fonte ou Saída, use :parameter_name para substituir um valor inteiro. Para combinar parâmetros com texto fixo, coloque o texto entre aspas simples e use ||. Por exemplo, a seguinte expressão de Tabela de Fonte constrói um nome de tabela totalmente qualificado:

SQL
:catalog || '.' || :schema || '.' || :table

Ativar ou desativar um operador com um parâmetro​

Você pode usar um parâmetro para ativar ou desativar qualquer operador configurado. No seu painel Parâmetros , selecione Desativado e insira uma expressão Boolean. Por exemplo, :skip_operator desativa o operador quando o parâmetro é true. Um operador desativado não produz nenhuma linha de saída.

Para habilitar ou desabilitar um operador manualmente, consulte Renomear, copiar, excluir e desabilitar operadores.

Substituir valores de parâmetros em produção​

Em tempo de execução, uma preparação de dados visuais lê seus parâmetros da mesma forma, seja executada interativamente ou como um job, para que o mesmo arquivo funcione em todos os seus ambientes sem alterações. Forneça valores diferentes para cada ambiente da seguinte maneira:

  • Quando você programa um Job na UI : Substitua os valores de parâmetro para cada programar. Por exemplo, programe a mesma preparação visual de dados para execução todos os dias ao meio-dia com um parâmetro environment definido como test, e novamente às 14h com environment definido como production. Consulte Programar como um job.
  • Ao implantar com um pacote : defina os valores de parâmetros através dos parameters do job e use destinos de pacote para fornecer valores diferentes por ambiente. Os destinos de desenvolvimento e produção de pacotes permitem implantar o mesmo job em ambientes separados com configurações específicas para cada ambiente. Consulte Modos de implantação de Pacotes de Automação Declarativa e Configuração de Pacotes de Automação Declarativa.

Outros recursos​