当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.fold用法及代码示例


本文简要介绍 pyspark.RDD.fold 的用法。

用法:

RDD.fold(zeroValue, op)

使用给定的关联函数和中性“零值”聚合每个分区的元素,然后聚合所有分区的结果。

允许函数op(t1, t2)修改t1并将其作为结果值返回以避免对象分配;但是,它不应该修改 t2

这与在 Scala 等函数式语言中为非分布式集合实现的折叠操作有些不同。此折叠操作可以单独应用于分区,然后将这些结果折叠到最终结果中,而不是以某些定义的顺序顺序将折叠应用于每个元素。对于不可交换的函数,结果可能与应用于非分布式集合的折叠结果不同。

例子

>>> from operator import add
>>> sc.parallelize([1, 2, 3, 4, 5]).fold(0, add)
15

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.fold。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。