Python pyspark RDD.mapPartitions用法及代码示例

本文简要介绍 pyspark.RDD.mapPartitions 的用法。

用法: RDD.mapPartitions(f, preservesPartitioning=False)

通过对该 RDD 的每个分区应用一个函数来返回一个新的 RDD。

>>> rdd = sc.parallelize([1, 2, 3, 4], 2)
>>> def f(iterator): yield sum(iterator)
>>> rdd.mapPartitions(f).collect()
[3, 7]

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.mapPartitions。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。