Python pyspark transform_values用法及代碼示例

本文簡要介紹 pyspark.sql.functions.transform_values 的用法。

用法: pyspark.sql.functions.transform_values(col, f)

將一個函數應用於映射中的每個鍵值對，並返回一個映射，其中包含這些應用程序的結果作為對的新值。

版本 3.1.0 中的新函數。

參數：

col： Column 或 str: 列或表達式的名稱
f：函數: 二進製函數 (k: Column, v: Column) -> Column... 可以使用 Column 的方法，在 pyspark.sql.functions 和 Scala 中定義的函數 UserDefinedFunctions 。不支持 Python UserDefinedFunctions (SPARK-27052)。

Column

例子：

>>> df = spark.createDataFrame([(1, {"IT": 10.0, "SALES": 2.0, "OPS": 24.0})], ("id", "data"))
>>> df.select(transform_values(
...     "data", lambda k, v: when(k.isin("IT", "OPS"), v + 10.0).otherwise(v)
... ).alias("new_data")).show(truncate=False)
+---------------------------------------+
|new_data                               |
+---------------------------------------+
|{OPS -> 34.0, IT -> 20.0, SALES -> 2.0}|
+---------------------------------------+

相關用法

注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.functions.transform_values。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。

用法:

參數：

返回：

例子：