csv (DataStreamReader)

CSVファイルストリームを読み込み、結果をDataFrameとして返します。inferSchemaが有効になっている場合、関数は入力を一度通過してスキーマを決定します。このパスを回避するには、 inferSchemaを無効にするか、 schemaを使用してスキーマを明示的に指定します。

構文

csv(path, schema=None, **options)

パラメーター

パラメーター	Type	説明
path	str	CSV入力ファイルのパス。
schema	構造体型またはstr（オプション）	スキーマは、StructType または DDL 形式の文字列 (例: col0 INT, col1 DOUBLE ) として指定します。

戻り値

DataFrame

例

一時的なCSVファイルからストリームを読み込む：

Python

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="csv") as d:
    spark.createDataFrame([(1, "2"),]).write.mode("overwrite").format("csv").save(d)
    q = spark.readStream.schema(
        "col0 INT, col1 STRING"
    ).format("csv").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()