當前位置: 首頁>>編程示例 >>用法及示例精選 >>正文

Python pyspark DataFrame.explain用法及代碼示例

本文簡要介紹 pyspark.sql.DataFrame.explain 的用法。

用法:

DataFrame.explain(extended=None, mode=None)

將(邏輯和物理)計劃打印到控製台以進行調試。

版本 1.3.0 中的新函數。

參數：

extended：布爾型，可選

默認 False 。如果 False ，僅打印物理計劃。當這是一個沒有指定 mode 的字符串時，它按照指定的模式工作。

mode：str，可選

指定計劃的預期輸出格式。

  • simple ：僅打印物理計劃。

  • extended：打印邏輯和物理計劃。

  • codegen ：打印物理計劃和生成的代碼(如果可用)。

  • cost ：如果可用，則打印邏輯計劃和統計信息。

  • formatted：將解釋輸出分成兩部分：物理計劃大綱和節點詳細信息。

在 3.0.0 版中更改：添加了可選參數mode指定計劃的預期輸出格式。

例子：

>>> df.explain()
== Physical Plan ==
*(1) Scan ExistingRDD[age#0,name#1]
>>> df.explain(True)
== Parsed Logical Plan ==
...
== Analyzed Logical Plan ==
...
== Optimized Logical Plan ==
...
== Physical Plan ==
...
>>> df.explain(mode="formatted")
== Physical Plan ==
* Scan ExistingRDD (1)
(1) Scan ExistingRDD [codegen id : 1]
Output [2]: [age#0, name#1]
...
>>> df.explain("cost")
== Optimized Logical Plan ==
...Statistics...
...

相關用法


注：本文由純淨天空篩選整理自spark.apache.org大神的英文原創作品 pyspark.sql.DataFrame.explain。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。