array_remove
Supprimer tous les éléments égaux à l'élément du tableau donné.
Syntaxe
Python
from pyspark.sql import functions as sf
sf.array_remove(col, element)
parameter
parameter | Type | Description |
|---|---|---|
|
| Nom de la colonne contenant le tableau |
| Tout | Élément ou une expression de colonne à supprimer du tableau |
Renvoie
pyspark.sql.Column: Une nouvelle colonne qui est un tableau excluant la valeur donnée de la colonne d'entrée.
Exemples
Exemple 1 : Suppression d'une valeur spécifique d'un tableau simple
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| [2, 3]|
+---------------------+
**Exemple 2** : Suppression d'une valeur spécifique de plusieurs tableaux
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_remove(df.data, 5)).show()
Output
+---------------------+
|array_remove(data, 5)|
+---------------------+
| [1, 2, 3, 1, 1]|
| [4, 4]|
+---------------------+
Exemple 3 : Suppression d'une valeur qui n'existe pas dans le tableau
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_remove(df.data, 4)).show()
Output
+---------------------+
|array_remove(data, 4)|
+---------------------+
| [1, 2, 3]|
+---------------------+
Exemple 4 : Suppression d'une valeur d'un tableau avec toutes les valeurs identiques
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| []|
+---------------------+
**Exemple 5** : suppression d'une valeur d'un tableau vide
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| []|
+---------------------+
Exemple 6 : Supprimer la valeur d'une colonne d'un tableau simple
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1], 1)], ['data', 'col'])
df.select(sf.array_remove(df.data, df.col)).show()
Output
+-----------------------+
|array_remove(data, col)|
+-----------------------+
| [2, 3]|
+-----------------------+