Python pyspark from_csv用法及代碼示例

本文簡要介紹 pyspark.sql.functions.from_csv 的用法。

用法: pyspark.sql.functions.from_csv(col, schema, options=None)

將包含 CSV 字符串的列解析為具有指定架構的行。在不可解析字符串的情況下返回 null 。

3.0.0 版中的新函數。

參數：

col： Column 或 str: CSV 格式的字符串列
schema :class:`~pyspark.sql.Column` or str：: 解析 CSV 列時使用的具有 DDL 格式的架構的字符串。
options：字典，可選: 控製解析的選項。接受與 CSV 數據源相同的選項。請參閱您使用的版本中的Data Source Option。

例子：

>>> data = [("1,2,3",)]
>>> df = spark.createDataFrame(data, ("value",))
>>> df.select(from_csv(df.value, "a INT, b INT, c INT").alias("csv")).collect()
[Row(csv=Row(a=1, b=2, c=3))]
>>> value = data[0][0]
>>> df.select(from_csv(df.value, schema_of_csv(value)).alias("csv")).collect()
[Row(csv=Row(_c0=1, _c1=2, _c2=3))]
>>> data = [("   abc",)]
>>> df = spark.createDataFrame(data, ("value",))
>>> options = {'ignoreLeadingWhiteSpace': True}
>>> df.select(from_csv(df.value, "s string", options).alias("csv")).collect()
[Row(csv=Row(s='abc'))]

相關用法

注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.functions.from_csv。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。