本文简要介绍
pyspark.RDD.fold
的用法。用法:
RDD.fold(zeroValue, op)
使用给定的关联函数和中性“零值”聚合每个分区的元素,然后聚合所有分区的结果。
允许函数
op(t1, t2)
修改t1
并将其作为结果值返回以避免对象分配;但是,它不应该修改t2
。这与在 Scala 等函数式语言中为非分布式集合实现的折叠操作有些不同。此折叠操作可以单独应用于分区,然后将这些结果折叠到最终结果中,而不是以某些定义的顺序顺序将折叠应用于每个元素。对于不可交换的函数,结果可能与应用于非分布式集合的折叠结果不同。
例子:
>>> from operator import add >>> sc.parallelize([1, 2, 3, 4, 5]).fold(0, add) 15
相关用法
- Python pyspark RDD.foldByKey用法及代码示例
- Python pyspark RDD.foreachPartition用法及代码示例
- Python pyspark RDD.foreach用法及代码示例
- Python pyspark RDD.flatMap用法及代码示例
- Python pyspark RDD.flatMapValues用法及代码示例
- Python pyspark RDD.fullOuterJoin用法及代码示例
- Python pyspark RDD.filter用法及代码示例
- Python pyspark RDD.first用法及代码示例
- Python pyspark RDD.saveAsTextFile用法及代码示例
- Python pyspark RDD.keyBy用法及代码示例
- Python pyspark RDD.sumApprox用法及代码示例
- Python pyspark RDD.lookup用法及代码示例
- Python pyspark RDD.zipWithIndex用法及代码示例
- Python pyspark RDD.sampleByKey用法及代码示例
- Python pyspark RDD.coalesce用法及代码示例
- Python pyspark RDD.subtract用法及代码示例
- Python pyspark RDD.count用法及代码示例
- Python pyspark RDD.groupWith用法及代码示例
- Python pyspark RDD.distinct用法及代码示例
- Python pyspark RDD.treeAggregate用法及代码示例
- Python pyspark RDD.mapPartitionsWithIndex用法及代码示例
- Python pyspark RDD.zipWithUniqueId用法及代码示例
- Python pyspark RDD.sortByKey用法及代码示例
- Python pyspark RDD.takeOrdered用法及代码示例
- Python pyspark RDD.collectAsMap用法及代码示例
注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.fold。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。