當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文

Python pyspark collect_set用法及代碼示例


本文簡要介紹 pyspark.sql.functions.collect_set 的用法。

用法:

pyspark.sql.functions.collect_set(col)

聚合函數：返回一組消除重複元素的對象。

版本 1.6.0 中的新函數。

注意：

該函數是非確定性的，因為收集結果的順序取決於行的順序，這在洗牌後可能是非確定性的。

例子：

>>> df2 = spark.createDataFrame([(2,), (5,), (5,)], ('age',))
>>> df2.agg(collect_set('age')).collect()
[Row(collect_set(age)=[5, 2])]

相關用法


注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.functions.collect_set。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。