clusterBy (DataFrameWriter)
Agrupa os dados pelas colunas fornecidas para otimizar o desempenho da consulta.
Sintaxe
clusterBy(*cols)
Parâmetros
Parâmetro | Tipo | Descrição |
|---|---|---|
| string ou lista | Nomes das colunas pelas quais cluster . |
Devoluções
DataFrameWriter
Exemplos
Escreva um DataFrame em um arquivo Parquet com agrupamento (clustering).
Python
import tempfile
with tempfile.TemporaryDirectory(prefix="clusterBy") as d:
spark.createDataFrame(
[{"age": 100, "name": "Alice"}, {"age": 120, "name": "Ruifeng Zheng"}]
).write.clusterBy("name").mode("overwrite").format("parquet").save(d)