當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


R yardstick roc_auc 接收者操作曲線下麵積


roc_auc() 是計算 ROC 曲線下麵積的指標。完整曲線請參見roc_curve()

用法

roc_auc(data, ...)

# S3 method for data.frame
roc_auc(
  data,
  truth,
  ...,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL,
  options = list()
)

roc_auc_vec(
  truth,
  estimate,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL,
  options = list(),
  ...
)

參數

data

包含 truth... 指定的列的 data.frame

...

一組不帶引號的列名稱或一個或多個 dplyr 選擇器函數,用於選擇哪些變量包含類概率。如果 truth 是二進製,則僅應選擇 1 列,並且它應對應於 event_level 的值。否則,列的數量應與 truth 的因子級別一樣多,並且列的順序應與 truth 的因子級別相同。

truth

真實類結果的列標識符(即 factor )。這應該是一個不帶引號的列名,盡管此參數是通過表達式傳遞的並且支持quasiquotation(您可以不帶引號的列名)。對於 _vec() 函數,一個 factor 向量。

estimator

"binary""hand_till""macro""macro_weighted" 之一指定要完成的平均類型。 "binary" 僅與兩類情況相關。其他是計算多類指標的通用方法。如果truth是二進製,則默認自動選擇"binary";如果truth有>2個級別並且未指定case_weights,則默認自動選擇"hand_till";或 "macro",如果 truth 具有 >2 個級別並且指定了 case_weights(在這種情況下,"hand_till" 未明確定義)。

na_rm

logical 值,指示在計算繼續之前是否應剝離 NA 值。

event_level

單個字符串。 "first""second" 指定將truth 的哪個級別視為"event"。此參數僅適用於 estimator = "binary" 。默認使用內部幫助程序,通常默認為 "first" ,但是,如果設置了已棄用的全局選項 yardstick.event_first ,則將使用該幫助程序並發出警告。

case_weights

案例權重的可選列標識符。這應該是一個不帶引號的列名稱,其計算結果為 data 中的數字列。對於 _vec() 函數,一個數值向量。

options

[deprecated]

從尺度 1.0.0 開始不再支持。如果您在此處傳遞某些內容,它將被忽略並發出警告。

以前,這些選項傳遞給 pROC::roc() 。如果您需要對此的支持,請直接使用 pROC 包。

estimate

如果truth是二進製的,對應於 "relevant" 類的類概率的數值向量。否則,矩陣的列數與因子級別一樣多truth.假設它們的順序與 truth 的級別相同。

tibble 包含列 .metric.estimator.estimate 以及 1 行值。

對於分組 DataFrame ,返回的行數將與組數相同。

對於 roc_auc_vec() ,單個 numeric 值(或 NA )。

細節

一般來說,ROC AUC值在0.51之間,其中1是完美的預測模型。如果您的值介於 00.5 之間,則這意味著您的模型中有有意義的信息,但應用不正確,因為與模型預測相反的操作將導致 AUC >0.5

請注意,您不能將 estimator = "hand_till"case_weights 結合使用。

相關級別

在計算二元分類指標時,對於哪個因子級別應自動被視為 "event" 或 "positive" 結果,沒有通用約定。在 yardstick 中,默認使用第一級。要更改此設置,請將參數 event_level 更改為 "second" 以將因子的最後一個級別視為感興趣級別。對於涉及 one-vs-all 比較(例如宏平均)的多類擴展,此選項將被忽略,並且 "one" 級別始終是相關結果。

多級

用於計算 roc_auc() 的默認多類方法是使用 Hand, Till, (2001) 中的方法。與宏觀平均不同,此方法對類分布(如二進製 ROC AUC 情況)不敏感。此外,如果 truth 中的任何級別在實際數據中出現零次,其他多類技術將返回 NA,而 Hand-Till 方法將在平均計算中忽略這些級別,並發出警告。

仍然提供宏觀平均和宏觀加權平均,盡管它們不是默認設置。事實上,宏觀加權平均對應於 Provost 和 Domingos (2001) 給出的多類 AUC 的相同定義。

參考

手,直到(2001)。 “多類分類問題的 ROC 曲線下麵積的簡單概括”。機器學習。第 45 卷,第 2 期,第 171-186 頁。

福西特(2005)。 “ROC 分析簡介”。模式識別字母。 27 (2006),第 861-874 頁。

Provost, F., Domingos, P., 2001。“Well-trained PET:改進概率估計樹”,CeDER 工作論文 #IS-00-04,紐約大學斯特恩商學院,NY, NY 10012。

也可以看看

roc_curve() 用於計算完整的 ROC 曲線。

其他類概率指標:average_precision() , brier_class() , classification_cost() , gain_capture() , mn_log_loss() , pr_auc() , roc_aunp() , roc_aunu()

作者

馬克斯·庫恩

例子

# ---------------------------------------------------------------------------
# Two class example

# `truth` is a 2 level factor. The first level is `"Class1"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(two_class_example)

# Binary metrics using class probabilities take a factor `truth` column,
# and a single class probability column containing the probabilities of
# the event of interest. Here, since `"Class1"` is the first level of
# `"truth"`, it is the event of interest and we pass in probabilities for it.
roc_auc(two_class_example, truth, Class1)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc binary         0.939

# ---------------------------------------------------------------------------
# Multiclass example

# `obs` is a 4 level factor. The first level is `"VF"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(hpc_cv)

# You can use the col1:colN tidyselect syntax
library(dplyr)
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  roc_auc(obs, VF:L)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc hand_till      0.813

# Change the first level of `obs` from `"VF"` to `"M"` to alter the
# event of interest. The class probability columns should be supplied
# in the same order as the levels.
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  mutate(obs = relevel(obs, "M")) %>%
  roc_auc(obs, M, VF:L)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc hand_till      0.813

# Groups are respected
hpc_cv %>%
  group_by(Resample) %>%
  roc_auc(obs, VF:L)
#> # A tibble: 10 × 4
#>    Resample .metric .estimator .estimate
#>    <chr>    <chr>   <chr>          <dbl>
#>  1 Fold01   roc_auc hand_till      0.813
#>  2 Fold02   roc_auc hand_till      0.817
#>  3 Fold03   roc_auc hand_till      0.869
#>  4 Fold04   roc_auc hand_till      0.849
#>  5 Fold05   roc_auc hand_till      0.811
#>  6 Fold06   roc_auc hand_till      0.836
#>  7 Fold07   roc_auc hand_till      0.825
#>  8 Fold08   roc_auc hand_till      0.846
#>  9 Fold09   roc_auc hand_till      0.828
#> 10 Fold10   roc_auc hand_till      0.812

# Weighted macro averaging
hpc_cv %>%
  group_by(Resample) %>%
  roc_auc(obs, VF:L, estimator = "macro_weighted")
#> # A tibble: 10 × 4
#>    Resample .metric .estimator     .estimate
#>    <chr>    <chr>   <chr>              <dbl>
#>  1 Fold01   roc_auc macro_weighted     0.880
#>  2 Fold02   roc_auc macro_weighted     0.873
#>  3 Fold03   roc_auc macro_weighted     0.906
#>  4 Fold04   roc_auc macro_weighted     0.867
#>  5 Fold05   roc_auc macro_weighted     0.866
#>  6 Fold06   roc_auc macro_weighted     0.865
#>  7 Fold07   roc_auc macro_weighted     0.868
#>  8 Fold08   roc_auc macro_weighted     0.865
#>  9 Fold09   roc_auc macro_weighted     0.841
#> 10 Fold10   roc_auc macro_weighted     0.869

# Vector version
# Supply a matrix of class probabilities
fold1 <- hpc_cv %>%
  filter(Resample == "Fold01")

roc_auc_vec(
   truth = fold1$obs,
   matrix(
     c(fold1$VF, fold1$F, fold1$M, fold1$L),
     ncol = 4
   )
)
#> [1] 0.8131924

源代碼:R/prob-roc_auc.R

相關用法


注:本文由純淨天空篩選整理自Max Kuhn等大神的英文原創作品 Area under the receiver operator curve。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。