当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.lookup用法及代码示例


本文简要介绍 pyspark.RDD.lookup 的用法。

用法:

RDD.lookup(key)

返回键 key 的 RDD 中的值列表。如果 RDD 具有已知的分区器,则此操作通过仅搜索键映射到的分区来有效地完成。

例子

>>> l = range(1000)
>>> rdd = sc.parallelize(zip(l, l), 10)
>>> rdd.lookup(42)  # slow
[42]
>>> sorted = rdd.sortByKey()
>>> sorted.lookup(42)  # fast
[42]
>>> sorted.lookup(1024)
[]
>>> rdd2 = sc.parallelize([(('a', 'b'), 'c')]).groupByKey()
>>> list(rdd2.lookup(('a', 'b'))[0])
['c']

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.lookup。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。