當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文

Python pyspark SparkContext.pickleFile用法及代碼示例


本文簡要介紹 pyspark.SparkContext.pickleFile 的用法。

用法:

SparkContext.pickleFile(name, minPartitions=None)

加載以前使用 RDD.saveAsPickleFile() 方法保存的 RDD。

例子：

>>> tmpFile = NamedTemporaryFile(delete=True)
>>> tmpFile.close()
>>> sc.parallelize(range(10)).saveAsPickleFile(tmpFile.name, 5)
>>> sorted(sc.pickleFile(tmpFile.name, 3).collect())
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

相關用法


注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.SparkContext.pickleFile。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。