当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.join用法及代码示例


本文简要介绍 pyspark.RDD.join 的用法。

用法:

RDD.join(other, numPartitions=None)

返回一个 RDD,其中包含 selfother 中具有匹配键的所有元素对。

每对元素将作为 (k, (v1, v2)) 元组返回,其中 (k, v1) 在 self 中, (k, v2) 在 other 中。

跨集群执行散列连接。

例子

>>> x = sc.parallelize([("a", 1), ("b", 4)])
>>> y = sc.parallelize([("a", 2), ("a", 3)])
>>> sorted(x.join(y).collect())
[('a', (1, 2)), ('a', (1, 3))]

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.join。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。