本文簡要介紹
pyspark.RDD.zipWithUniqueId
的用法。用法:
RDD.zipWithUniqueId()
使用生成的唯一 Long id 壓縮此 RDD。
第 k 個分區中的項目將獲得 ids k, n+k, 2*n+k, ...,其中 n 是分區數。因此可能存在差距,但這種方法不會觸發 spark 作業,這與
zipWithIndex()
不同。例子:
>>> sc.parallelize(["a", "b", "c", "d", "e"], 3).zipWithUniqueId().collect() [('a', 0), ('b', 1), ('c', 4), ('d', 2), ('e', 5)]
相關用法
- Python pyspark RDD.zipWithIndex用法及代碼示例
- Python pyspark RDD.zip用法及代碼示例
- Python pyspark RDD.saveAsTextFile用法及代碼示例
- Python pyspark RDD.keyBy用法及代碼示例
- Python pyspark RDD.sumApprox用法及代碼示例
- Python pyspark RDD.lookup用法及代碼示例
- Python pyspark RDD.sampleByKey用法及代碼示例
- Python pyspark RDD.coalesce用法及代碼示例
- Python pyspark RDD.subtract用法及代碼示例
- Python pyspark RDD.count用法及代碼示例
- Python pyspark RDD.groupWith用法及代碼示例
- Python pyspark RDD.distinct用法及代碼示例
- Python pyspark RDD.treeAggregate用法及代碼示例
- Python pyspark RDD.mapPartitionsWithIndex用法及代碼示例
- Python pyspark RDD.foreachPartition用法及代碼示例
- Python pyspark RDD.sortByKey用法及代碼示例
- Python pyspark RDD.takeOrdered用法及代碼示例
- Python pyspark RDD.collectAsMap用法及代碼示例
- Python pyspark RDD.countApproxDistinct用法及代碼示例
- Python pyspark RDD.toLocalIterator用法及代碼示例
- Python pyspark RDD.reduceByKeyLocally用法及代碼示例
- Python pyspark RDD.max用法及代碼示例
- Python pyspark RDD.map用法及代碼示例
- Python pyspark RDD.partitionBy用法及代碼示例
- Python pyspark RDD.stdev用法及代碼示例
注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.zipWithUniqueId。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。