array_distinct
Supprime les valeurs en double du tableau.
Syntaxe
Python
from pyspark.sql import functions as sf
sf.array_distinct(col)
parameter
parameter | Type | Description |
|---|---|---|
|
| Nom de colonne ou d'expression |
Renvoie
pyspark.sql.Column: une nouvelle colonne qui est un tableau de valeurs uniques de la colonne d'entrée.
Exemples
Exemple 1 : Suppression des valeurs en double d'un tableau simple
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
+--------------------+
Exemple 2 : Suppression des valeurs en double de plusieurs tableaux
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
| [4, 5]|
+--------------------+
Exemple 3 : suppression des valeurs en double d’un tableau avec toutes les valeurs identiques
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1]|
+--------------------+
Exemple 4 : suppression des valeurs en double d'un tableau sans valeurs en double
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| [1, 2, 3]|
+--------------------+
Exemple 5 : Suppression des valeurs en double d'un tableau vide
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_distinct(df.data)).show()
Output
+--------------------+
|array_distinct(data)|
+--------------------+
| []|
+--------------------+