Python pyspark map_filter用法及代码示例

本文简要介绍 pyspark.sql.functions.map_filter 的用法。

用法: pyspark.sql.functions.map_filter(col, f)

返回其键值对满足谓词的映射。

版本 3.1.0 中的新函数。

参数：

col： Column 或 str: 列或表达式的名称
f：函数: 二进制函数 (k: Column, v: Column) -> Column... 可以使用 Column 的方法，在 pyspark.sql.functions 和 Scala 中定义的函数 UserDefinedFunctions 。不支持 Python UserDefinedFunctions (SPARK-27052)。

Column

例子：

>>> df = spark.createDataFrame([(1, {"foo": 42.0, "bar": 1.0, "baz": 32.0})], ("id", "data"))
>>> df.select(map_filter(
...     "data", lambda _, v: v > 30.0).alias("data_filtered")
... ).show(truncate=False)
+--------------------------+
|data_filtered             |
+--------------------------+
|{baz -> 32.0, foo -> 42.0}|
+--------------------------+

相关用法

注：本文由纯净天空筛选整理自spark.apache.org大神的英文原创作品 pyspark.sql.functions.map_filter。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。

用法:

参数：

返回：

例子：