array_compact
Supprime les valeurs nulles du tableau.
Syntaxe
Python
from pyspark.sql import functions as sf
sf.array_compact(col)
parameter
parameter | Type | Description |
|---|---|---|
|
| Nom de colonne ou d'expression |
Renvoie
pyspark.sql.Column: Une nouvelle colonne qui est un tableau excluant les valeurs nulles de la colonne d'entrée.
Exemples
Exemple 1 : Suppression des valeurs nulles d'un tableau simple
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, None, 2, 3],)], ['data'])
df.select(sf.array_compact(df.data)).show()
Output
+-------------------+
|array_compact(data)|
+-------------------+
| [1, 2, 3]|
+-------------------+
Exemple 2 : suppression des valeurs nulles de plusieurs tableaux
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, None, 2, 3],), ([4, 5, None, 4],)], ['data'])
df.select(sf.array_compact(df.data)).show()
Output
+-------------------+
|array_compact(data)|
+-------------------+
| [1, 2, 3]|
| [4, 5, 4]|
+-------------------+
Exemple 3 : suppression des valeurs nulles d'un tableau contenant uniquement des valeurs nulles
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, StringType, StructField, StructType schema = StructType([StructField("data", ArrayType(StringType()), True)])
df = spark.createDataFrame([([None, None, None],)], schema)
df.select(sf.array_compact(df.data)).show()
Output
+-------------------+
|array_compact(data)|
+-------------------+
| []|
+-------------------+
Exemple 4 : Suppression des valeurs nulles d'un tableau sans valeurs nulles
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_compact(df.data)).show()
Output
+-------------------+
|array_compact(data)|
+-------------------+
| [1, 2, 3]|
+-------------------+
Exemple 5 : Suppression des valeurs nulles d'un tableau vide.
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, StringType, StructField, StructType
schema = StructType([
StructField("data", ArrayType(StringType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_compact(df.data)).show()
Output
+-------------------+
|array_compact(data)|
+-------------------+
| []|
+-------------------+