メインコンテンツまでスキップ

ロード(DataStreamReader)

データソースからデータストリームを読み込み、それをDataFrameとして返します。

構文

load(path=None, format=None, schema=None, **options)

パラメーター

パラメーター

Type

説明

path

文字列、オプション

ファイルシステムを基盤とするデータソースへのパス。

format

文字列、オプション

データソースのフォーマット。デフォルト値は'parquet'です。

schema

構造体型またはstr(オプション)

入力データのスキーマをStructTypeまたはDDL形式の文字列として指定します(例: col0 INT, col1 DOUBLE )。

**options

その他の文字列オプション。

戻り値

DataFrame

一時的なJSONファイルからストリームを読み込む:

Python
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).format("json").load(d).writeStream.format("console").start()
time.sleep(3)
q.stop()
このページの見出し