當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark DataStreamReader.schema用法及代碼示例


本文簡要介紹 pyspark.sql.streaming.DataStreamReader.schema 的用法。

用法:

DataStreamReader.schema(schema)

指定輸入模式。

一些數據源(例如 JSON)可以從數據中自動推斷輸入模式。通過在此處指定模式,底層數據源可以跳過模式推斷步驟,從而加快數據加載速度。

2.0.0 版中的新函數。

參數

schema pyspark.sql.types.StructType 或 str

pyspark.sql.types.StructType 對象或 DDL 格式的字符串(例如 col0 INT, col1 DOUBLE )。

注意

這個 API 正在發展。

例子

>>> s = spark.readStream.schema(sdf_schema)
>>> s = spark.readStream.schema("col0 INT, col1 DOUBLE")

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.streaming.DataStreamReader.schema。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。