Python pyspark from_csv用法及代码示例

本文简要介绍 pyspark.sql.functions.from_csv 的用法。

用法: pyspark.sql.functions.from_csv(col, schema, options=None)

将包含 CSV 字符串的列解析为具有指定架构的行。在不可解析字符串的情况下返回 null 。

3.0.0 版中的新函数。

参数：

col： Column 或 str: CSV 格式的字符串列
schema :class:`~pyspark.sql.Column` or str：: 解析 CSV 列时使用的具有 DDL 格式的架构的字符串。
options：字典，可选: 控制解析的选项。接受与 CSV 数据源相同的选项。请参阅您使用的版本中的Data Source Option。

例子：

>>> data = [("1,2,3",)]
>>> df = spark.createDataFrame(data, ("value",))
>>> df.select(from_csv(df.value, "a INT, b INT, c INT").alias("csv")).collect()
[Row(csv=Row(a=1, b=2, c=3))]
>>> value = data[0][0]
>>> df.select(from_csv(df.value, schema_of_csv(value)).alias("csv")).collect()
[Row(csv=Row(_c0=1, _c1=2, _c2=3))]
>>> data = [("   abc",)]
>>> df = spark.createDataFrame(data, ("value",))
>>> options = {'ignoreLeadingWhiteSpace': True}
>>> df.select(from_csv(df.value, "s string", options).alias("csv")).collect()
[Row(csv=Row(s='abc'))]

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.functions.from_csv。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。