當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文

Python pyspark RDD.mapPartitions用法及代碼示例


本文簡要介紹 pyspark.RDD.mapPartitions 的用法。

用法:

RDD.mapPartitions(f, preservesPartitioning=False)

通過對該 RDD 的每個分區應用一個函數來返回一個新的 RDD。

例子：

>>> rdd = sc.parallelize([1, 2, 3, 4], 2)
>>> def f(iterator): yield sum(iterator)
>>> rdd.mapPartitions(f).collect()
[3, 7]

相關用法


注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.mapPartitions。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。