Python PySpark Column contains方法用法及代码示例

例子

考虑以下PySpark DataFrame：

df = spark.createDataFrame([["Alex", 20], ["Bob", 30], ["Cathy", 40]], ["name", "age"])
df.show()



+-----+---+
| name|age|
+-----+---+
| Alex| 20|
|  Bob| 30|
|Cathy| 40|
+-----+---+

获取 PySpark DataFrame 中包含子字符串的行

要获取包含子字符串 "le" 的行：

from pyspark.sql import functions as F
df.filter(F.col("name").contains("le")).show()



+----+---+
|name|age|
+----+---+
|Alex| 20|
+----+---+

在这里，F.col("name").contains("le") 返回一个包含布尔值的 Column 对象，其中 True 对应于包含子字符串 "le" 的字符串：

df.select(F.col("name").contains("le")).show()



+------------------+
|contains(name, le)|
+------------------+
|              true|
|             false|
|             false|
+------------------+

在我们的解决方案中，我们使用 filter(~) 方法来提取与 True 对应的行。