当前位置: 首页>>代码示例 >>用法及示例精选 >>正文

Python pyspark Broadcast用法及代码示例


本文简要介绍 pyspark.Broadcast 的用法。

用法:

class pyspark.Broadcast(sc=None, value=None, pickle_registry=None, path=None, sock_file=None)

使用 SparkContext.broadcast() 创建的广播变量。通过 value 访问其值。

例子：

>>> from pyspark.context import SparkContext
>>> sc = SparkContext('local', 'test')
>>> b = sc.broadcast([1, 2, 3, 4, 5])
>>> b.value
[1, 2, 3, 4, 5]
>>> sc.parallelize([0, 0]).flatMap(lambda x: b.value).collect()
[1, 2, 3, 4, 5, 1, 2, 3, 4, 5]
>>> b.unpersist()
>>> large_broadcast = sc.broadcast(range(10000))

相关用法


注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.Broadcast。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。