Python pyspark broadcast用法及代码示例

本文简要介绍 pyspark.pandas.broadcast 的用法。

用法: pyspark.pandas.broadcast(obj: pyspark.pandas.frame.DataFrame) → pyspark.pandas.frame.DataFrame

将 DataFrame 标记为足够小，可以在广播连接中使用。

自 3.2.0 版起已弃用：采用DataFrame.spark.hint反而。

参数：

obj：DataFrame

ret：DataFrame 带广播提示。

例子：

>>> df1 = ps.DataFrame({'lkey': ['foo', 'bar', 'baz', 'foo'],
...                     'value': [1, 2, 3, 5]},
...                    columns=['lkey', 'value']).set_index('lkey')
>>> df2 = ps.DataFrame({'rkey': ['foo', 'bar', 'baz', 'foo'],
...                     'value': [5, 6, 7, 8]},
...                    columns=['rkey', 'value']).set_index('rkey')
>>> merged = df1.merge(ps.broadcast(df2), left_index=True, right_index=True)
>>> merged.spark.explain()  
== Physical Plan ==
...
...BroadcastHashJoin...
...

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.pandas.broadcast。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。

用法:

参数：

返回：

例子：