当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.reduce用法及代码示例


本文简要介绍 pyspark.RDD.reduce 的用法。

用法:

RDD.reduce(f)

使用指定的交换和关联二元运算符减少此 RDD 的元素。目前在本地减少分区。

例子

>>> from operator import add
>>> sc.parallelize([1, 2, 3, 4, 5]).reduce(add)
15
>>> sc.parallelize((2 for _ in range(10))).map(lambda x: 1).cache().reduce(add)
10
>>> sc.parallelize([]).reduce(add)
Traceback (most recent call last):
    ...
ValueError: Can not reduce() empty RDD

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.reduce。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。