當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark RDD.repartitionAndSortWithinPartitions用法及代碼示例


本文簡要介紹 pyspark.RDD.repartitionAndSortWithinPartitions 的用法。

用法:

RDD.repartitionAndSortWithinPartitions(numPartitions=None, partitionFunc=<function portable_hash>, ascending=True, keyfunc=<function RDD.<lambda>>)

根據給定的分區器對 RDD 進行重新分區,並在每個生成的分區中,按記錄的鍵對記錄進行排序。

例子

>>> rdd = sc.parallelize([(0, 5), (3, 8), (2, 6), (0, 8), (3, 8), (1, 3)])
>>> rdd2 = rdd.repartitionAndSortWithinPartitions(2, lambda x: x % 2, True)
>>> rdd2.glom().collect()
[[(0, 5), (0, 8), (2, 6)], [(1, 3), (3, 8), (3, 8)]]

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.repartitionAndSortWithinPartitions。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。