並べ替え
ファイルシステム上の指定された列に基づいて、各バケット内の出力をソートします。
構文
sortBy(col, *cols)
パラメーター
パラメーター | Type | 説明 |
|---|---|---|
| 文字列、タプル、またはリスト | 列名、または列名のリスト。 |
| 文字列、オプション | 追加の列名。 |
戻り値
DataFrameWriter
例
DataFrameソート済みのバケットテーブルに書き込み、それを読み戻します。
Python
spark.sql("DROP TABLE IF EXISTS sorted_bucketed_table")
spark.createDataFrame([
(100, "Alice"), (120, "Alice"), (140, "Bob")],
schema=["age", "name"]
).write.bucketBy(1, "name").sortBy("age").mode(
"overwrite").saveAsTable("sorted_bucketed_table")
spark.read.table("sorted_bucketed_table").sort("age").show()
# +---+------------+
# |age| name|
# +---+------------+
# |100|Alice|
# |120|Alice|
# |140| Bob|
# +---+------------+
spark.sql("DROP TABLE sorted_bucketed_table")