當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark RDD.fold用法及代碼示例


本文簡要介紹 pyspark.RDD.fold 的用法。

用法:

RDD.fold(zeroValue, op)

使用給定的關聯函數和中性“零值”聚合每個分區的元素,然後聚合所有分區的結果。

允許函數op(t1, t2)修改t1並將其作為結果值返回以避免對象分配;但是,它不應該修改 t2

這與在 Scala 等函數式語言中為非分布式集合實現的折疊操作有些不同。此折疊操作可以單獨應用於分區,然後將這些結果折疊到最終結果中,而不是以某些定義的順序順序將折疊應用於每個元素。對於不可交換的函數,結果可能與應用於非分布式集合的折疊結果不同。

例子

>>> from operator import add
>>> sc.parallelize([1, 2, 3, 4, 5]).fold(0, add)
15

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.fold。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。