當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark DataStreamReader.parquet用法及代碼示例


本文簡要介紹 pyspark.sql.streaming.DataStreamReader.parquet 的用法。

用法:

DataStreamReader.parquet(path, mergeSchema=None, pathGlobFilter=None, recursiveFileLookup=None, datetimeRebaseMode=None, int96RebaseMode=None)

加載 Parquet 文件流,將結果作為 DataFrame 返回。

2.0.0 版中的新函數。

參數

pathstr

任何 Hadoop 支持的文件係統中的路徑

其他參數

Extra options

有關額外選項,請參閱Data Source Option。在您使用的版本中。

例子

>>> parquet_sdf = spark.readStream.schema(sdf_schema).parquet(tempfile.mkdtemp())
>>> parquet_sdf.isStreaming
True
>>> parquet_sdf.schema == sdf_schema
True

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.streaming.DataStreamReader.parquet。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。