ロード(DataStreamReader)
データソースからデータストリームを読み込み、それをDataFrameとして返します。
構文
load(path=None, format=None, schema=None, **options)
パラメーター
パラメーター | Type | 説明 |
|---|---|---|
| 文字列、オプション | ファイルシステムを基盤とするデータソースへのパス。 |
| 文字列、オプション | データソースのフォーマット。デフォルト値は |
| 構造体型またはstr(オプション) | 入力データのスキーマをStructTypeまたはDDL形式の文字列として指定します(例: |
| その他の文字列オプション。 |
戻り値
DataFrame
例
一時的なJSONファイルからストリームを読み込む:
Python
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).format("json").load(d).writeStream.format("console").start()
time.sleep(3)
q.stop()