当前位置: 首页>>代码示例 >>用法及示例精选 >>正文

Python pyspark flatten用法及代码示例


本文简要介绍 pyspark.sql.functions.flatten 的用法。

用法:

pyspark.sql.functions.flatten(col)

集合函数：从数组数组创建单个数组。如果嵌套数组的结构深于两层，则仅删除一层嵌套。

2.4.0 版中的新函数。

参数：

col： Column 或 str

列或表达式的名称

例子：

>>> df = spark.createDataFrame([([[1, 2, 3], [4, 5], [6]],), ([None, [4, 5]],)], ['data'])
>>> df.select(flatten(df.data).alias('r')).collect()
[Row(r=[1, 2, 3, 4, 5, 6]), Row(r=None)]

相关用法


注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.functions.flatten。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。