roc_auc()
是計算 ROC 曲線下麵積的指標。完整曲線請參見roc_curve()
。
用法
roc_auc(data, ...)
# S3 method for data.frame
roc_auc(
data,
truth,
...,
estimator = NULL,
na_rm = TRUE,
event_level = yardstick_event_level(),
case_weights = NULL,
options = list()
)
roc_auc_vec(
truth,
estimate,
estimator = NULL,
na_rm = TRUE,
event_level = yardstick_event_level(),
case_weights = NULL,
options = list(),
...
)
參數
- data
-
包含
truth
和...
指定的列的data.frame
。 - ...
-
一組不帶引號的列名稱或一個或多個
dplyr
選擇器函數,用於選擇哪些變量包含類概率。如果truth
是二進製,則僅應選擇 1 列,並且它應對應於event_level
的值。否則,列的數量應與truth
的因子級別一樣多,並且列的順序應與truth
的因子級別相同。 - truth
-
真實類結果的列標識符(即
factor
)。這應該是一個不帶引號的列名,盡管此參數是通過表達式傳遞的並且支持quasiquotation(您可以不帶引號的列名)。對於_vec()
函數,一個factor
向量。 - estimator
-
"binary"
、"hand_till"
、"macro"
或"macro_weighted"
之一指定要完成的平均類型。"binary"
僅與兩類情況相關。其他是計算多類指標的通用方法。如果truth
是二進製,則默認自動選擇"binary"
;如果truth
有>2個級別並且未指定case_weights
,則默認自動選擇"hand_till"
;或"macro"
,如果truth
具有 >2 個級別並且指定了case_weights
(在這種情況下,"hand_till"
未明確定義)。 - na_rm
-
logical
值,指示在計算繼續之前是否應剝離NA
值。 - event_level
-
單個字符串。
"first"
或"second"
指定將truth
的哪個級別視為"event"。此參數僅適用於estimator = "binary"
。默認使用內部幫助程序,通常默認為"first"
,但是,如果設置了已棄用的全局選項yardstick.event_first
,則將使用該幫助程序並發出警告。 - case_weights
-
案例權重的可選列標識符。這應該是一個不帶引號的列名稱,其計算結果為
data
中的數字列。對於_vec()
函數,一個數值向量。 - options
-
[deprecated]
從尺度 1.0.0 開始不再支持。如果您在此處傳遞某些內容,它將被忽略並發出警告。
以前,這些選項傳遞給
pROC::roc()
。如果您需要對此的支持,請直接使用 pROC 包。 - estimate
-
如果
truth
是二進製的,對應於 "relevant" 類的類概率的數值向量。否則,矩陣的列數與因子級別一樣多truth
.假設它們的順序與truth
的級別相同。
值
tibble
包含列 .metric
、 .estimator
和 .estimate
以及 1 行值。
對於分組 DataFrame ,返回的行數將與組數相同。
對於 roc_auc_vec()
,單個 numeric
值(或 NA
)。
細節
一般來說,ROC AUC值在0.5
和1
之間,其中1
是完美的預測模型。如果您的值介於 0
和 0.5
之間,則這意味著您的模型中有有意義的信息,但應用不正確,因為與模型預測相反的操作將導致 AUC >0.5
。
請注意,您不能將 estimator = "hand_till"
與 case_weights
結合使用。
相關級別
在計算二元分類指標時,對於哪個因子級別應自動被視為 "event" 或 "positive" 結果,沒有通用約定。在 yardstick
中,默認使用第一級。要更改此設置,請將參數 event_level
更改為 "second"
以將因子的最後一個級別視為感興趣級別。對於涉及 one-vs-all 比較(例如宏平均)的多類擴展,此選項將被忽略,並且 "one" 級別始終是相關結果。
多級
用於計算 roc_auc()
的默認多類方法是使用 Hand, Till, (2001) 中的方法。與宏觀平均不同,此方法對類分布(如二進製 ROC AUC 情況)不敏感。此外,如果 truth
中的任何級別在實際數據中出現零次,其他多類技術將返回 NA
,而 Hand-Till 方法將在平均計算中忽略這些級別,並發出警告。
仍然提供宏觀平均和宏觀加權平均,盡管它們不是默認設置。事實上,宏觀加權平均對應於 Provost 和 Domingos (2001) 給出的多類 AUC 的相同定義。
參考
手,直到(2001)。 “多類分類問題的 ROC 曲線下麵積的簡單概括”。機器學習。第 45 卷,第 2 期,第 171-186 頁。
福西特(2005)。 “ROC 分析簡介”。模式識別字母。 27 (2006),第 861-874 頁。
Provost, F., Domingos, P., 2001。“Well-trained PET:改進概率估計樹”,CeDER 工作論文 #IS-00-04,紐約大學斯特恩商學院,NY, NY 10012。
也可以看看
roc_curve()
用於計算完整的 ROC 曲線。
其他類概率指標:average_precision()
, brier_class()
, classification_cost()
, gain_capture()
, mn_log_loss()
, pr_auc()
, roc_aunp()
, roc_aunu()
例子
# ---------------------------------------------------------------------------
# Two class example
# `truth` is a 2 level factor. The first level is `"Class1"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(two_class_example)
# Binary metrics using class probabilities take a factor `truth` column,
# and a single class probability column containing the probabilities of
# the event of interest. Here, since `"Class1"` is the first level of
# `"truth"`, it is the event of interest and we pass in probabilities for it.
roc_auc(two_class_example, truth, Class1)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc binary 0.939
# ---------------------------------------------------------------------------
# Multiclass example
# `obs` is a 4 level factor. The first level is `"VF"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(hpc_cv)
# You can use the col1:colN tidyselect syntax
library(dplyr)
hpc_cv %>%
filter(Resample == "Fold01") %>%
roc_auc(obs, VF:L)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc hand_till 0.813
# Change the first level of `obs` from `"VF"` to `"M"` to alter the
# event of interest. The class probability columns should be supplied
# in the same order as the levels.
hpc_cv %>%
filter(Resample == "Fold01") %>%
mutate(obs = relevel(obs, "M")) %>%
roc_auc(obs, M, VF:L)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc hand_till 0.813
# Groups are respected
hpc_cv %>%
group_by(Resample) %>%
roc_auc(obs, VF:L)
#> # A tibble: 10 × 4
#> Resample .metric .estimator .estimate
#> <chr> <chr> <chr> <dbl>
#> 1 Fold01 roc_auc hand_till 0.813
#> 2 Fold02 roc_auc hand_till 0.817
#> 3 Fold03 roc_auc hand_till 0.869
#> 4 Fold04 roc_auc hand_till 0.849
#> 5 Fold05 roc_auc hand_till 0.811
#> 6 Fold06 roc_auc hand_till 0.836
#> 7 Fold07 roc_auc hand_till 0.825
#> 8 Fold08 roc_auc hand_till 0.846
#> 9 Fold09 roc_auc hand_till 0.828
#> 10 Fold10 roc_auc hand_till 0.812
# Weighted macro averaging
hpc_cv %>%
group_by(Resample) %>%
roc_auc(obs, VF:L, estimator = "macro_weighted")
#> # A tibble: 10 × 4
#> Resample .metric .estimator .estimate
#> <chr> <chr> <chr> <dbl>
#> 1 Fold01 roc_auc macro_weighted 0.880
#> 2 Fold02 roc_auc macro_weighted 0.873
#> 3 Fold03 roc_auc macro_weighted 0.906
#> 4 Fold04 roc_auc macro_weighted 0.867
#> 5 Fold05 roc_auc macro_weighted 0.866
#> 6 Fold06 roc_auc macro_weighted 0.865
#> 7 Fold07 roc_auc macro_weighted 0.868
#> 8 Fold08 roc_auc macro_weighted 0.865
#> 9 Fold09 roc_auc macro_weighted 0.841
#> 10 Fold10 roc_auc macro_weighted 0.869
# Vector version
# Supply a matrix of class probabilities
fold1 <- hpc_cv %>%
filter(Resample == "Fold01")
roc_auc_vec(
truth = fold1$obs,
matrix(
c(fold1$VF, fold1$F, fold1$M, fold1$L),
ncol = 4
)
)
#> [1] 0.8131924
相關用法
- R yardstick roc_aunp 使用先驗類別分布,每個類別相對於其他類別的 ROC 曲線下麵積
- R yardstick roc_aunu 使用均勻類別分布,每個類別相對於其他類別的 ROC 曲線下麵積
- R yardstick roc_curve 接收者算子曲線
- R yardstick rpd 性能與偏差之比
- R yardstick rpiq 績效與四分位間的比率
- R yardstick rsq R 平方
- R yardstick recall 記起
- R yardstick rmse 均方根誤差
- R yardstick rsq_trad R 平方 - 傳統
- R yardstick pr_auc 查準率曲線下麵積
- R yardstick accuracy 準確性
- R yardstick gain_capture 增益捕獲
- R yardstick pr_curve 精確率召回曲線
- R yardstick conf_mat 分類數據的混淆矩陣
- R yardstick mn_log_loss 多項數據的平均對數損失
- R yardstick mae 平均絕對誤差
- R yardstick detection_prevalence 檢測率
- R yardstick bal_accuracy 平衡的精度
- R yardstick msd 平均符號偏差
- R yardstick mpe 平均百分比誤差
- R yardstick iic 相關性理想指數
- R yardstick npv 陰性預測值
- R yardstick sens 靈敏度
- R yardstick poisson_log_loss 泊鬆數據的平均對數損失
- R yardstick ppv 陽性預測值
注:本文由純淨天空篩選整理自Max Kuhn等大神的英文原創作品 Area under the receiver operator curve。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。