JSON (DataStreamReader)
JSONファイルストリームを読み込み、結果をDataFrameとして返します。JSON行(改行区切りJSON)はデフォルトでサポートされています。ファイルごとにレコードが 1 つだけの JSON の場合は、 multiLineオプションをtrueに設定します。schemaが指定されていない場合、入力スキーマはデータから推論されます。
構文
json(path, schema=None, **options)
パラメーター
パラメーター | Type | 説明 |
|---|---|---|
| str | JSONデータセットへのパス。 |
| 構造体型またはstr(オプション) | スキーマは、StructType または DDL 形式の文字列 (例: |
戻り値
DataFrame
例
一時的なJSONファイルからストリームを読み込む:
Python
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="json") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).json(d).writeStream.format("console").start()
time.sleep(3)
q.stop()