Python pyspark schema_of_csv用法及代碼示例

本文簡要介紹 pyspark.sql.functions.schema_of_csv 的用法。

用法: pyspark.sql.functions.schema_of_csv(csv, options=None)

解析 CSV 字符串並以 DDL 格式推斷其架構。

3.0.0 版中的新函數。

參數：

csv： Column 或 str: CSV 字符串或包含 CSV 字符串的可折疊字符串列。
options：字典，可選: 控製解析的選項。接受與 CSV 數據源相同的選項。請參閱您使用的版本中的Data Source Option。

例子：

>>> df = spark.range(1)
>>> df.select(schema_of_csv(lit('1|a'), {'sep':'|'}).alias("csv")).collect()
[Row(csv='STRUCT<`_c0`: INT, `_c1`: STRING>')]
>>> df.select(schema_of_csv('1|a', {'sep':'|'}).alias("csv")).collect()
[Row(csv='STRUCT<`_c0`: INT, `_c1`: STRING>')]

相關用法

注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.functions.schema_of_csv。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。