Python pyspark RDD.reduceByKey用法及代码示例

本文简要介绍 pyspark.RDD.reduceByKey 的用法。

用法: RDD.reduceByKey(func, numPartitions=None, partitionFunc=<function portable_hash>)

使用关联和交换归约函数合并每个键的值。

这也将在将结果发送到 reducer 之前在每个 mapper 上本地执行合并，类似于 MapReduce 中的 “combiner”。

输出将使用 numPartitions 分区进行分区，如果未指定 numPartitions，则使用默认并行级别。默认分区程序是hash-partition。

>>> from operator import add
>>> rdd = sc.parallelize([("a", 1), ("b", 1), ("a", 1)])
>>> sorted(rdd.reduceByKey(add).collect())
[('a', 2), ('b', 1)]

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.reduceByKey。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。