当前位置: 首页>>代码示例 >>用法及示例精选 >>正文

Python pyspark RDD.toLocalIterator用法及代码示例


本文简要介绍 pyspark.RDD.toLocalIterator 的用法。

用法:

RDD.toLocalIterator(prefetchPartitions=False)

返回包含此 RDD 中所有元素的迭代器。迭代器将消耗与此 RDD 中最大分区一样多的内存。使用预取，它可能会消耗最多 2 个最大分区的内存。

参数：

prefetchPartitions：布尔型，可选

如果 Spark 应该在需要之前预取下一个分区。

例子：

>>> rdd = sc.parallelize(range(10))
>>> [x for x in rdd.toLocalIterator()]
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

相关用法


注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.toLocalIterator。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。