remover_array
Remova todos os elementos iguais ao elemento fornecido da matriz.
Sintaxe
Python
from pyspark.sql import functions as sf
sf.array_remove(col, element)
Parâmetros
Parâmetro | Tipo | Descrição |
|---|---|---|
|
| Nome da coluna que contém a matriz |
| Qualquer um | Elemento ou expressão de coluna a ser removida da matriz |
Devoluções
pyspark.sql.ColumnUma nova coluna que é uma matriz, excluindo o valor fornecido da coluna de entrada.
Exemplos
Exemplo 1 : Removendo um valor específico de uma matriz simples
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| [2, 3]|
+---------------------+
Exemplo 2 : Removendo um valor específico de várias matrizes
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_remove(df.data, 5)).show()
Output
+---------------------+
|array_remove(data, 5)|
+---------------------+
| [1, 2, 3, 1, 1]|
| [4, 4]|
+---------------------+
Exemplo 3 : Removendo um valor que não existe na matriz
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_remove(df.data, 4)).show()
Output
+---------------------+
|array_remove(data, 4)|
+---------------------+
| [1, 2, 3]|
+---------------------+
Exemplo 4 : Removendo um valor de uma matriz com todos os valores idênticos.
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| []|
+---------------------+
Exemplo 5 : Removendo um valor de uma matriz vazia
Python
from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_remove(df.data, 1)).show()
Output
+---------------------+
|array_remove(data, 1)|
+---------------------+
| []|
+---------------------+
Exemplo 6 : Removendo o valor de uma coluna de uma matriz simples
Python
from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1], 1)], ['data', 'col'])
df.select(sf.array_remove(df.data, df.col)).show()
Output
+-----------------------+
|array_remove(data, col)|
+-----------------------+
| [2, 3]|
+-----------------------+