當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark RDD.zipWithUniqueId用法及代碼示例


本文簡要介紹 pyspark.RDD.zipWithUniqueId 的用法。

用法:

RDD.zipWithUniqueId()

使用生成的唯一 Long id 壓縮此 RDD。

第 k 個分區中的項目將獲得 ids k, n+k, 2*n+k, ...,其中 n 是分區數。因此可能存在差距,但這種方法不會觸發 spark 作業,這與 zipWithIndex() 不同。

例子

>>> sc.parallelize(["a", "b", "c", "d", "e"], 3).zipWithUniqueId().collect()
[('a', 0), ('b', 1), ('c', 4), ('d', 2), ('e', 5)]

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.zipWithUniqueId。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。