array_distinct
Remove valores duplicados da matriz.
Sintaxe
Python
from pyspark.sql import functions as sf
sf.array_distinct(col)
Parâmetros
Parâmetro | Tipo | Descrição |
|---|---|---|
|
| Nome da coluna ou expressão |
Devoluções
pyspark.sql.ColumnUma nova coluna que é uma matriz de valores únicos da coluna de entrada.
Exemplos
Exemplo 1 : Removendo valores duplicados de uma matriz simples
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
+--------------------+
Exemplo 2 : Removendo valores duplicados de múltiplas matrizes
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
| [4, 5]|
+--------------------+
Exemplo 3 : Removendo valores duplicados de uma matriz com todos os valores idênticos.
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1]|
+--------------------+
Exemplo 4 : Removendo valores duplicados de uma matriz sem valores duplicados.
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
+--------------------+
Exemplo 5 : Removendo valores duplicados de uma matriz vazia
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| []|
+--------------------+