本文簡要介紹
pyspark.RDD.fold
的用法。用法:
RDD.fold(zeroValue, op)
使用給定的關聯函數和中性“零值”聚合每個分區的元素,然後聚合所有分區的結果。
允許函數
op(t1, t2)
修改t1
並將其作為結果值返回以避免對象分配;但是,它不應該修改t2
。這與在 Scala 等函數式語言中為非分布式集合實現的折疊操作有些不同。此折疊操作可以單獨應用於分區,然後將這些結果折疊到最終結果中,而不是以某些定義的順序順序將折疊應用於每個元素。對於不可交換的函數,結果可能與應用於非分布式集合的折疊結果不同。
例子:
>>> from operator import add >>> sc.parallelize([1, 2, 3, 4, 5]).fold(0, add) 15
相關用法
- Python pyspark RDD.foldByKey用法及代碼示例
- Python pyspark RDD.foreachPartition用法及代碼示例
- Python pyspark RDD.foreach用法及代碼示例
- Python pyspark RDD.flatMap用法及代碼示例
- Python pyspark RDD.flatMapValues用法及代碼示例
- Python pyspark RDD.fullOuterJoin用法及代碼示例
- Python pyspark RDD.filter用法及代碼示例
- Python pyspark RDD.first用法及代碼示例
- Python pyspark RDD.saveAsTextFile用法及代碼示例
- Python pyspark RDD.keyBy用法及代碼示例
- Python pyspark RDD.sumApprox用法及代碼示例
- Python pyspark RDD.lookup用法及代碼示例
- Python pyspark RDD.zipWithIndex用法及代碼示例
- Python pyspark RDD.sampleByKey用法及代碼示例
- Python pyspark RDD.coalesce用法及代碼示例
- Python pyspark RDD.subtract用法及代碼示例
- Python pyspark RDD.count用法及代碼示例
- Python pyspark RDD.groupWith用法及代碼示例
- Python pyspark RDD.distinct用法及代碼示例
- Python pyspark RDD.treeAggregate用法及代碼示例
- Python pyspark RDD.mapPartitionsWithIndex用法及代碼示例
- Python pyspark RDD.zipWithUniqueId用法及代碼示例
- Python pyspark RDD.sortByKey用法及代碼示例
- Python pyspark RDD.takeOrdered用法及代碼示例
- Python pyspark RDD.collectAsMap用法及代碼示例
注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.fold。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。