メインコンテンツまでスキップ

並べ替え

ファイルシステム上の指定された列に基づいて、各バケット内の出力をソートします。

構文

sortBy(col, *cols)

パラメーター

パラメーター

Type

説明

col

文字列、タプル、またはリスト

列名、または列名のリスト。

*cols

文字列、オプション

追加の列名。colがリストの場合は空でなければなりません。

戻り値

DataFrameWriter

DataFrameソート済みのバケットテーブルに書き込み、それを読み戻します。

Python
spark.sql("DROP TABLE IF EXISTS sorted_bucketed_table")
spark.createDataFrame([
(100, "Alice"), (120, "Alice"), (140, "Bob")],
schema=["age", "name"]
).write.bucketBy(1, "name").sortBy("age").mode(
"overwrite").saveAsTable("sorted_bucketed_table")

spark.read.table("sorted_bucketed_table").sort("age").show()
# +---+------------+
# |age| name|
# +---+------------+
# |100|Alice|
# |120|Alice|
# |140| Bob|
# +---+------------+

spark.sql("DROP TABLE sorted_bucketed_table")
このページの見出し