Python pyspark DataFrame.foreachPartition用法及代码示例

本文简要介绍 pyspark.sql.DataFrame.foreachPartition 的用法。

用法: DataFrame.foreachPartition(f)

将 f 函数应用于此 DataFrame 的每个分区。

这是 df.rdd.foreachPartition() 的简写。

版本 1.3.0 中的新函数。

>>> def f(people):
...     for person in people:
...         print(person.name)
>>> df.foreachPartition(f)

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.DataFrame.foreachPartition。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。