当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.mapPartitionsWithSplit用法及代码示例


本文简要介绍 pyspark.RDD.mapPartitionsWithSplit 的用法。

用法:

RDD.mapPartitionsWithSplit(f, preservesPartitioning=False)

通过对该 RDD 的每个分区应用一个函数来返回一个新的 RDD,同时跟踪原始分区的索引。

自 0.9.0 版起已弃用:采用RDD.mapPartitionsWithIndex反而。

例子

>>> rdd = sc.parallelize([1, 2, 3, 4], 4)
>>> def f(splitIndex, iterator): yield splitIndex
>>> rdd.mapPartitionsWithSplit(f).sum()
6

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.mapPartitionsWithSplit。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。