当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark Column.over用法及代码示例


本文简要介绍 pyspark.sql.Column.over 的用法。

用法:

Column.over(window)

定义一个窗口列。

1.4.0 版中的新函数。

参数

windowWindowSpec

返回

Column

例子

>>> from pyspark.sql import Window
>>> window = Window.partitionBy("name").orderBy("age")                 .rowsBetween(Window.unboundedPreceding, Window.currentRow)
>>> from pyspark.sql.functions import rank, min
>>> from pyspark.sql.functions import desc
>>> df.withColumn("rank", rank().over(window))                 .withColumn("min", min('age').over(window)).sort(desc("age")).show()
+---+-----+----+---+
|age| name|rank|min|
+---+-----+----+---+
|  5|  Bob|   1|  5|
|  2|Alice|   1|  2|
+---+-----+----+---+

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.Column.over。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。