當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文

Python pyspark RDD.toLocalIterator用法及代碼示例


本文簡要介紹 pyspark.RDD.toLocalIterator 的用法。

用法:

RDD.toLocalIterator(prefetchPartitions=False)

返回包含此 RDD 中所有元素的迭代器。迭代器將消耗與此 RDD 中最大分區一樣多的內存。使用預取，它可能會消耗最多 2 個最大分區的內存。

參數：

prefetchPartitions：布爾型，可選

如果 Spark 應該在需要之前預取下一個分區。

例子：

>>> rdd = sc.parallelize(range(10))
>>> [x for x in rdd.toLocalIterator()]
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

相關用法


注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.RDD.toLocalIterator。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。