當前位置: 首頁>>編程示例 >>用法及示例精選 >>正文


Python pyspark map_filter用法及代碼示例

本文簡要介紹 pyspark.sql.functions.map_filter 的用法。

用法:

pyspark.sql.functions.map_filter(col, f)

返回其鍵值對滿足謂詞的映射。

版本 3.1.0 中的新函數。

參數

col Column 或 str

列或表達式的名稱

f函數

二進製函數 (k: Column, v: Column) -> Column... 可以使用 Column 的方法,在 pyspark.sql.functions 和 Scala 中定義的函數 UserDefinedFunctions 。不支持 Python UserDefinedFunctions (SPARK-27052)。

返回

Column

例子

>>> df = spark.createDataFrame([(1, {"foo": 42.0, "bar": 1.0, "baz": 32.0})], ("id", "data"))
>>> df.select(map_filter(
...     "data", lambda _, v: v > 30.0).alias("data_filtered")
... ).show(truncate=False)
+--------------------------+
|data_filtered             |
+--------------------------+
|{baz -> 32.0, foo -> 42.0}|
+--------------------------+

相關用法


注:本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.functions.map_filter。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。