当前位置: 首页>>代码示例 >>用法及示例精选 >>正文

Python pyspark collect_set用法及代码示例


本文简要介绍 pyspark.sql.functions.collect_set 的用法。

用法:

pyspark.sql.functions.collect_set(col)

聚合函数：返回一组消除重复元素的对象。

版本 1.6.0 中的新函数。

注意：

该函数是非确定性的，因为收集结果的顺序取决于行的顺序，这在洗牌后可能是非确定性的。

例子：

>>> df2 = spark.createDataFrame([(2,), (5,), (5,)], ('age',))
>>> df2.agg(collect_set('age')).collect()
[Row(collect_set(age)=[5, 2])]

相关用法


注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.functions.collect_set。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。