当前位置: 首页>>代码示例 >>用法及示例精选 >>正文

Python pyspark RDD.intersection用法及代码示例


本文简要介绍 pyspark.RDD.intersection 的用法。

用法:

RDD.intersection(other)

返回此 RDD 与另一个 RDD 的交集。输出不会包含任何重复元素，即使输入 RDD 包含。

注意：

此方法在内部执行Shuffle[洗牌]。

例子：

>>> rdd1 = sc.parallelize([1, 10, 2, 3, 4, 5])
>>> rdd2 = sc.parallelize([1, 6, 2, 3, 7, 8])
>>> rdd1.intersection(rdd2).collect()
[1, 2, 3]

相关用法


注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.intersection。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。