当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python pyspark RDD.pipe用法及代码示例


本文简要介绍 pyspark.RDD.pipe 的用法。

用法:

RDD.pipe(command, env=None, checkCode=False)

将由管道元素创建的 RDD 返回到分叉的外部进程。

参数

commandstr

命令运行。

env字典,可选

要设置的环境变量。

checkCode布尔型,可选

是否检查 shell 命令的返回值。

例子

>>> sc.parallelize(['1', '2', '', '3']).pipe('cat').collect()
['1', '2', '', '3']

相关用法


注:本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.RDD.pipe。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。