メインコンテンツまでスキップ

JSON (DataStreamReader)

JSONファイルストリームを読み込み、結果をDataFrameとして返します。JSON行(改行区切りJSON)はデフォルトでサポートされています。ファイルごとにレコードが 1 つだけの JSON の場合は、 multiLineオプションをtrueに設定します。schemaが指定されていない場合、入力スキーマはデータから推論されます。

構文

json(path, schema=None, **options)

パラメーター

パラメーター

Type

説明

path

str

JSONデータセットへのパス。

schema

構造体型またはstr(オプション)

スキーマは、StructType または DDL 形式の文字列 (例: col0 INT, col1 DOUBLE ) として指定します。

戻り値

DataFrame

一時的なJSONファイルからストリームを読み込む:

Python
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="json") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).json(d).writeStream.format("console").start()
time.sleep(3)
q.stop()
このページの見出し