本文整理汇总了Python中pysparkling.Context.foreachPartition方法的典型用法代码示例。如果您正苦于以下问题:Python Context.foreachPartition方法的具体用法?Python Context.foreachPartition怎么用?Python Context.foreachPartition使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类pysparkling.Context
的用法示例。
在下文中一共展示了Context.foreachPartition方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: test_parallelize_empty_partitions_at_end
# 需要导入模块: from pysparkling import Context [as 别名]
# 或者: from pysparkling.Context import foreachPartition [as 别名]
def test_parallelize_empty_partitions_at_end():
my_rdd = Context().parallelize(range(3529), 500)
print(my_rdd.getNumPartitions())
my_rdd.foreachPartition(lambda p: print(sum(1 for _ in p)))
assert my_rdd.getNumPartitions() == 500 and my_rdd.count() == 3529