配列共用体

col1 と col2 の要素を重複なしで結合した新しい配列を返します。

構文

Python

from pyspark.sql import functions as sf

sf.array_union(col1, col2)

パラメーター

パラメーター	Type	説明
col1	pyspark.sql.Column または文字列	最初の配列を含む列の名前。
col2	pyspark.sql.Column または文字列	2 番目の配列を含む列の名前。

戻り値

pyspark.sql.Column: col1 と col2 の要素の結合を含む新しい配列。

例

例1 ：基本的な使い方

Python

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["b", "a", "c"], c2=["c", "d", "a", "f"])])
df.select(sf.sort_array(sf.array_union(df.c1, df.c2))).show()

Output

+-------------------------------------+
|sort_array(array_union(c1, c2), true)|
+-------------------------------------+
|                      [a, b, c, d, f]|
+-------------------------------------+

例2 : 共通要素のない結合

Python

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["b", "a", "c"], c2=["d", "e", "f"])])
df.select(sf.sort_array(sf.array_union(df.c1, df.c2))).show()

Output

+-------------------------------------+
|sort_array(array_union(c1, c2), true)|
+-------------------------------------+
|                   [a, b, c, d, e, f]|
+-------------------------------------+

例3 : すべての共通要素を持つ結合

Python

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["a", "b", "c"], c2=["a", "b", "c"])])
df.select(sf.sort_array(sf.array_union(df.c1, df.c2))).show()

Output

+-------------------------------------+
|sort_array(array_union(c1, c2), true)|
+-------------------------------------+
|                            [a, b, c]|
+-------------------------------------+

例4 : null値を含む結合

Python

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["a", "b", None], c2=["a", None, "c"])])
df.select(sf.sort_array(sf.array_union(df.c1, df.c2))).show()

Output

+-------------------------------------+
|sort_array(array_union(c1, c2), true)|
+-------------------------------------+
|                      [NULL, a, b, c]|
+-------------------------------------+

例5 : 空の配列との結合

Python

from pyspark.sql import Row, functions as sf
from pyspark.sql.types import ArrayType, StringType, StructField, StructType
data = [Row(c1=[], c2=["a", "b", "c"])]
schema = StructType([
  StructField("c1", ArrayType(StringType()), True),
  StructField("c2", ArrayType(StringType()), True)
])
df = spark.createDataFrame(data, schema)
df.select(sf.sort_array(sf.array_union(df.c1, df.c2))).show()

Output

+-------------------------------------+
|sort_array(array_union(c1, c2), true)|
+-------------------------------------+
|                            [a, b, c]|
+-------------------------------------+