Python pyspark Expanding.sum用法及代码示例

本文简要介绍 pyspark.pandas.window.Expanding.sum 的用法。

用法: Expanding.sum() → FrameLike

计算给定DataFrame或系列的扩展总和。

注意

此 API 的当前实现使用 Spark 的 Window 而不指定分区规范。这会导致将所有数据移动到单个机器中的单个分区中，并可能导致严重的性能下降。避免对非常大的数据集使用此方法。

>>> s = ps.Series([1, 2, 3, 4, 5])
>>> s
0    1
1    2
2    3
3    4
4    5
dtype: int64

>>> s.expanding(3).sum()
0     NaN
1     NaN
2     6.0
3    10.0
4    15.0
dtype: float64

对于 DataFrame，每个扩展总和都是按列计算的。

>>> df = ps.DataFrame({"A": s.to_numpy(), "B": s.to_numpy() ** 2})
>>> df
   A   B
0  1   1
1  2   4
2  3   9
3  4  16
4  5  25

>>> df.expanding(3).sum()
      A     B
0   NaN   NaN
1   NaN   NaN
2   6.0  14.0
3  10.0  30.0
4  15.0  55.0

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.pandas.window.Expanding.sum。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。