当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.flatMap用法及代码示例


本文简要介绍 pyspark.RDD.flatMap 的用法。

用法:

RDD.flatMap(f, preservesPartitioning=False)

通过首先对该 RDD 的所有元素应用一个函数,然后将结果展平,返回一个新的 RDD。

例子

>>> rdd = sc.parallelize([2, 3, 4])
>>> sorted(rdd.flatMap(lambda x: range(1, x)).collect())
[1, 1, 1, 2, 2, 3]
>>> sorted(rdd.flatMap(lambda x: [(x, x), (x, x)]).collect())
[(2, 2), (2, 2), (3, 3), (3, 3), (4, 4), (4, 4)]

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.flatMap。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。