roc_auc()
是计算 ROC 曲线下面积的指标。完整曲线请参见roc_curve()
。
用法
roc_auc(data, ...)
# S3 method for data.frame
roc_auc(
data,
truth,
...,
estimator = NULL,
na_rm = TRUE,
event_level = yardstick_event_level(),
case_weights = NULL,
options = list()
)
roc_auc_vec(
truth,
estimate,
estimator = NULL,
na_rm = TRUE,
event_level = yardstick_event_level(),
case_weights = NULL,
options = list(),
...
)
参数
- data
-
包含
truth
和...
指定的列的data.frame
。 - ...
-
一组不带引号的列名称或一个或多个
dplyr
选择器函数,用于选择哪些变量包含类概率。如果truth
是二进制,则仅应选择 1 列,并且它应对应于event_level
的值。否则,列的数量应与truth
的因子级别一样多,并且列的顺序应与truth
的因子级别相同。 - truth
-
真实类结果的列标识符(即
factor
)。这应该是一个不带引号的列名,尽管此参数是通过表达式传递的并且支持quasiquotation(您可以不带引号的列名)。对于_vec()
函数,一个factor
向量。 - estimator
-
"binary"
、"hand_till"
、"macro"
或"macro_weighted"
之一指定要完成的平均类型。"binary"
仅与两类情况相关。其他是计算多类指标的通用方法。如果truth
是二进制,则默认自动选择"binary"
;如果truth
有>2个级别并且未指定case_weights
,则默认自动选择"hand_till"
;或"macro"
,如果truth
具有 >2 个级别并且指定了case_weights
(在这种情况下,"hand_till"
未明确定义)。 - na_rm
-
logical
值,指示在计算继续之前是否应剥离NA
值。 - event_level
-
单个字符串。
"first"
或"second"
指定将truth
的哪个级别视为"event"。此参数仅适用于estimator = "binary"
。默认使用内部帮助程序,通常默认为"first"
,但是,如果设置了已弃用的全局选项yardstick.event_first
,则将使用该帮助程序并发出警告。 - case_weights
-
案例权重的可选列标识符。这应该是一个不带引号的列名称,其计算结果为
data
中的数字列。对于_vec()
函数,一个数值向量。 - options
-
[deprecated]
从尺度 1.0.0 开始不再支持。如果您在此处传递某些内容,它将被忽略并发出警告。
以前,这些选项传递给
pROC::roc()
。如果您需要对此的支持,请直接使用 pROC 包。 - estimate
-
如果
truth
是二进制的,对应于 "relevant" 类的类概率的数值向量。否则,矩阵的列数与因子级别一样多truth
.假设它们的顺序与truth
的级别相同。
值
tibble
包含列 .metric
、 .estimator
和 .estimate
以及 1 行值。
对于分组 DataFrame ,返回的行数将与组数相同。
对于 roc_auc_vec()
,单个 numeric
值(或 NA
)。
细节
一般来说,ROC AUC值在0.5
和1
之间,其中1
是完美的预测模型。如果您的值介于 0
和 0.5
之间,则这意味着您的模型中有有意义的信息,但应用不正确,因为与模型预测相反的操作将导致 AUC >0.5
。
请注意,您不能将 estimator = "hand_till"
与 case_weights
结合使用。
相关级别
在计算二元分类指标时,对于哪个因子级别应自动被视为 "event" 或 "positive" 结果,没有通用约定。在 yardstick
中,默认使用第一级。要更改此设置,请将参数 event_level
更改为 "second"
以将因子的最后一个级别视为感兴趣级别。对于涉及 one-vs-all 比较(例如宏平均)的多类扩展,此选项将被忽略,并且 "one" 级别始终是相关结果。
多级
用于计算 roc_auc()
的默认多类方法是使用 Hand, Till, (2001) 中的方法。与宏观平均不同,此方法对类分布(如二进制 ROC AUC 情况)不敏感。此外,如果 truth
中的任何级别在实际数据中出现零次,其他多类技术将返回 NA
,而 Hand-Till 方法将在平均计算中忽略这些级别,并发出警告。
仍然提供宏观平均和宏观加权平均,尽管它们不是默认设置。事实上,宏观加权平均对应于 Provost 和 Domingos (2001) 给出的多类 AUC 的相同定义。
参考
手,直到(2001)。 “多类分类问题的 ROC 曲线下面积的简单概括”。机器学习。第 45 卷,第 2 期,第 171-186 页。
福西特(2005)。 “ROC 分析简介”。模式识别字母。 27 (2006),第 861-874 页。
Provost, F., Domingos, P., 2001。“Well-trained PET:改进概率估计树”,CeDER 工作论文 #IS-00-04,纽约大学斯特恩商学院,NY, NY 10012。
也可以看看
roc_curve()
用于计算完整的 ROC 曲线。
其他类概率指标:average_precision()
, brier_class()
, classification_cost()
, gain_capture()
, mn_log_loss()
, pr_auc()
, roc_aunp()
, roc_aunu()
例子
# ---------------------------------------------------------------------------
# Two class example
# `truth` is a 2 level factor. The first level is `"Class1"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(two_class_example)
# Binary metrics using class probabilities take a factor `truth` column,
# and a single class probability column containing the probabilities of
# the event of interest. Here, since `"Class1"` is the first level of
# `"truth"`, it is the event of interest and we pass in probabilities for it.
roc_auc(two_class_example, truth, Class1)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc binary 0.939
# ---------------------------------------------------------------------------
# Multiclass example
# `obs` is a 4 level factor. The first level is `"VF"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(hpc_cv)
# You can use the col1:colN tidyselect syntax
library(dplyr)
hpc_cv %>%
filter(Resample == "Fold01") %>%
roc_auc(obs, VF:L)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc hand_till 0.813
# Change the first level of `obs` from `"VF"` to `"M"` to alter the
# event of interest. The class probability columns should be supplied
# in the same order as the levels.
hpc_cv %>%
filter(Resample == "Fold01") %>%
mutate(obs = relevel(obs, "M")) %>%
roc_auc(obs, M, VF:L)
#> # A tibble: 1 × 3
#> .metric .estimator .estimate
#> <chr> <chr> <dbl>
#> 1 roc_auc hand_till 0.813
# Groups are respected
hpc_cv %>%
group_by(Resample) %>%
roc_auc(obs, VF:L)
#> # A tibble: 10 × 4
#> Resample .metric .estimator .estimate
#> <chr> <chr> <chr> <dbl>
#> 1 Fold01 roc_auc hand_till 0.813
#> 2 Fold02 roc_auc hand_till 0.817
#> 3 Fold03 roc_auc hand_till 0.869
#> 4 Fold04 roc_auc hand_till 0.849
#> 5 Fold05 roc_auc hand_till 0.811
#> 6 Fold06 roc_auc hand_till 0.836
#> 7 Fold07 roc_auc hand_till 0.825
#> 8 Fold08 roc_auc hand_till 0.846
#> 9 Fold09 roc_auc hand_till 0.828
#> 10 Fold10 roc_auc hand_till 0.812
# Weighted macro averaging
hpc_cv %>%
group_by(Resample) %>%
roc_auc(obs, VF:L, estimator = "macro_weighted")
#> # A tibble: 10 × 4
#> Resample .metric .estimator .estimate
#> <chr> <chr> <chr> <dbl>
#> 1 Fold01 roc_auc macro_weighted 0.880
#> 2 Fold02 roc_auc macro_weighted 0.873
#> 3 Fold03 roc_auc macro_weighted 0.906
#> 4 Fold04 roc_auc macro_weighted 0.867
#> 5 Fold05 roc_auc macro_weighted 0.866
#> 6 Fold06 roc_auc macro_weighted 0.865
#> 7 Fold07 roc_auc macro_weighted 0.868
#> 8 Fold08 roc_auc macro_weighted 0.865
#> 9 Fold09 roc_auc macro_weighted 0.841
#> 10 Fold10 roc_auc macro_weighted 0.869
# Vector version
# Supply a matrix of class probabilities
fold1 <- hpc_cv %>%
filter(Resample == "Fold01")
roc_auc_vec(
truth = fold1$obs,
matrix(
c(fold1$VF, fold1$F, fold1$M, fold1$L),
ncol = 4
)
)
#> [1] 0.8131924
相关用法
- R yardstick roc_aunp 使用先验类别分布,每个类别相对于其他类别的 ROC 曲线下面积
- R yardstick roc_aunu 使用均匀类别分布,每个类别相对于其他类别的 ROC 曲线下面积
- R yardstick roc_curve 接收者算子曲线
- R yardstick rpd 性能与偏差之比
- R yardstick rpiq 绩效与四分位间的比率
- R yardstick rsq R 平方
- R yardstick recall 记起
- R yardstick rmse 均方根误差
- R yardstick rsq_trad R 平方 - 传统
- R yardstick pr_auc 查准率曲线下面积
- R yardstick accuracy 准确性
- R yardstick gain_capture 增益捕获
- R yardstick pr_curve 精确率召回曲线
- R yardstick conf_mat 分类数据的混淆矩阵
- R yardstick mn_log_loss 多项数据的平均对数损失
- R yardstick mae 平均绝对误差
- R yardstick detection_prevalence 检测率
- R yardstick bal_accuracy 平衡的精度
- R yardstick msd 平均符号偏差
- R yardstick mpe 平均百分比误差
- R yardstick iic 相关性理想指数
- R yardstick npv 阴性预测值
- R yardstick sens 灵敏度
- R yardstick poisson_log_loss 泊松数据的平均对数损失
- R yardstick ppv 阳性预测值
注:本文由纯净天空筛选整理自Max Kuhn等大神的英文原创作品 Area under the receiver operator curve。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。