當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python pyspark RDD.lookup用法及代碼示例


本文簡要介紹 pyspark.RDD.lookup 的用法。

用法:

RDD.lookup(key)

返回鍵 key 的 RDD 中的值列表。如果 RDD 具有已知的分區器,則此操作通過僅搜索鍵映射到的分區來有效地完成。

例子

>>> l = range(1000)
>>> rdd = sc.parallelize(zip(l, l), 10)
>>> rdd.lookup(42)  # slow
[42]
>>> sorted = rdd.sortByKey()
>>> sorted.lookup(42)  # fast
[42]
>>> sorted.lookup(1024)
[]
>>> rdd2 = sc.parallelize([(('a', 'b'), 'c')]).groupByKey()
>>> list(rdd2.lookup(('a', 'b'))[0])
['c']

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.lookup。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。