当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


R yardstick roc_auc 接收者操作曲线下面积


roc_auc() 是计算 ROC 曲线下面积的指标。完整曲线请参见roc_curve()

用法

roc_auc(data, ...)

# S3 method for data.frame
roc_auc(
  data,
  truth,
  ...,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL,
  options = list()
)

roc_auc_vec(
  truth,
  estimate,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL,
  options = list(),
  ...
)

参数

data

包含 truth... 指定的列的 data.frame

...

一组不带引号的列名称或一个或多个 dplyr 选择器函数,用于选择哪些变量包含类概率。如果 truth 是二进制,则仅应选择 1 列,并且它应对应于 event_level 的值。否则,列的数量应与 truth 的因子级别一样多,并且列的顺序应与 truth 的因子级别相同。

truth

真实类结果的列标识符(即 factor )。这应该是一个不带引号的列名,尽管此参数是通过表达式传递的并且支持quasiquotation(您可以不带引号的列名)。对于 _vec() 函数,一个 factor 向量。

estimator

"binary""hand_till""macro""macro_weighted" 之一指定要完成的平均类型。 "binary" 仅与两类情况相关。其他是计算多类指标的通用方法。如果truth是二进制,则默认自动选择"binary";如果truth有>2个级别并且未指定case_weights,则默认自动选择"hand_till";或 "macro",如果 truth 具有 >2 个级别并且指定了 case_weights(在这种情况下,"hand_till" 未明确定义)。

na_rm

logical 值,指示在计算继续之前是否应剥离 NA 值。

event_level

单个字符串。 "first""second" 指定将truth 的哪个级别视为"event"。此参数仅适用于 estimator = "binary" 。默认使用内部帮助程序,通常默认为 "first" ,但是,如果设置了已弃用的全局选项 yardstick.event_first ,则将使用该帮助程序并发出警告。

case_weights

案例权重的可选列标识符。这应该是一个不带引号的列名称,其计算结果为 data 中的数字列。对于 _vec() 函数,一个数值向量。

options

[deprecated]

从尺度 1.0.0 开始不再支持。如果您在此处传递某些内容,它将被忽略并发出警告。

以前,这些选项传递给 pROC::roc() 。如果您需要对此的支持,请直接使用 pROC 包。

estimate

如果truth是二进制的,对应于 "relevant" 类的类概率的数值向量。否则,矩阵的列数与因子级别一样多truth.假设它们的顺序与 truth 的级别相同。

tibble 包含列 .metric.estimator.estimate 以及 1 行值。

对于分组 DataFrame ,返回的行数将与组数相同。

对于 roc_auc_vec() ,单个 numeric 值(或 NA )。

细节

一般来说,ROC AUC值在0.51之间,其中1是完美的预测模型。如果您的值介于 00.5 之间,则这意味着您的模型中有有意义的信息,但应用不正确,因为与模型预测相反的操作将导致 AUC >0.5

请注意,您不能将 estimator = "hand_till"case_weights 结合使用。

相关级别

在计算二元分类指标时,对于哪个因子级别应自动被视为 "event" 或 "positive" 结果,没有通用约定。在 yardstick 中,默认使用第一级。要更改此设置,请将参数 event_level 更改为 "second" 以将因子的最后一个级别视为感兴趣级别。对于涉及 one-vs-all 比较(例如宏平均)的多类扩展,此选项将被忽略,并且 "one" 级别始终是相关结果。

多级

用于计算 roc_auc() 的默认多类方法是使用 Hand, Till, (2001) 中的方法。与宏观平均不同,此方法对类分布(如二进制 ROC AUC 情况)不敏感。此外,如果 truth 中的任何级别在实际数据中出现零次,其他多类技术将返回 NA,而 Hand-Till 方法将在平均计算中忽略这些级别,并发出警告。

仍然提供宏观平均和宏观加权平均,尽管它们不是默认设置。事实上,宏观加权平均对应于 Provost 和 Domingos (2001) 给出的多类 AUC 的相同定义。

参考

手,直到(2001)。 “多类分类问题的 ROC 曲线下面积的简单概括”。机器学习。第 45 卷,第 2 期,第 171-186 页。

福西特(2005)。 “ROC 分析简介”。模式识别字母。 27 (2006),第 861-874 页。

Provost, F., Domingos, P., 2001。“Well-trained PET:改进概率估计树”,CeDER 工作论文 #IS-00-04,纽约大学斯特恩商学院,NY, NY 10012。

也可以看看

roc_curve() 用于计算完整的 ROC 曲线。

其他类概率指标:average_precision() , brier_class() , classification_cost() , gain_capture() , mn_log_loss() , pr_auc() , roc_aunp() , roc_aunu()

作者

马克斯·库恩

例子

# ---------------------------------------------------------------------------
# Two class example

# `truth` is a 2 level factor. The first level is `"Class1"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(two_class_example)

# Binary metrics using class probabilities take a factor `truth` column,
# and a single class probability column containing the probabilities of
# the event of interest. Here, since `"Class1"` is the first level of
# `"truth"`, it is the event of interest and we pass in probabilities for it.
roc_auc(two_class_example, truth, Class1)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc binary         0.939

# ---------------------------------------------------------------------------
# Multiclass example

# `obs` is a 4 level factor. The first level is `"VF"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(hpc_cv)

# You can use the col1:colN tidyselect syntax
library(dplyr)
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  roc_auc(obs, VF:L)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc hand_till      0.813

# Change the first level of `obs` from `"VF"` to `"M"` to alter the
# event of interest. The class probability columns should be supplied
# in the same order as the levels.
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  mutate(obs = relevel(obs, "M")) %>%
  roc_auc(obs, M, VF:L)
#> # A tibble: 1 × 3
#>   .metric .estimator .estimate
#>   <chr>   <chr>          <dbl>
#> 1 roc_auc hand_till      0.813

# Groups are respected
hpc_cv %>%
  group_by(Resample) %>%
  roc_auc(obs, VF:L)
#> # A tibble: 10 × 4
#>    Resample .metric .estimator .estimate
#>    <chr>    <chr>   <chr>          <dbl>
#>  1 Fold01   roc_auc hand_till      0.813
#>  2 Fold02   roc_auc hand_till      0.817
#>  3 Fold03   roc_auc hand_till      0.869
#>  4 Fold04   roc_auc hand_till      0.849
#>  5 Fold05   roc_auc hand_till      0.811
#>  6 Fold06   roc_auc hand_till      0.836
#>  7 Fold07   roc_auc hand_till      0.825
#>  8 Fold08   roc_auc hand_till      0.846
#>  9 Fold09   roc_auc hand_till      0.828
#> 10 Fold10   roc_auc hand_till      0.812

# Weighted macro averaging
hpc_cv %>%
  group_by(Resample) %>%
  roc_auc(obs, VF:L, estimator = "macro_weighted")
#> # A tibble: 10 × 4
#>    Resample .metric .estimator     .estimate
#>    <chr>    <chr>   <chr>              <dbl>
#>  1 Fold01   roc_auc macro_weighted     0.880
#>  2 Fold02   roc_auc macro_weighted     0.873
#>  3 Fold03   roc_auc macro_weighted     0.906
#>  4 Fold04   roc_auc macro_weighted     0.867
#>  5 Fold05   roc_auc macro_weighted     0.866
#>  6 Fold06   roc_auc macro_weighted     0.865
#>  7 Fold07   roc_auc macro_weighted     0.868
#>  8 Fold08   roc_auc macro_weighted     0.865
#>  9 Fold09   roc_auc macro_weighted     0.841
#> 10 Fold10   roc_auc macro_weighted     0.869

# Vector version
# Supply a matrix of class probabilities
fold1 <- hpc_cv %>%
  filter(Resample == "Fold01")

roc_auc_vec(
   truth = fold1$obs,
   matrix(
     c(fold1$VF, fold1$F, fold1$M, fold1$L),
     ncol = 4
   )
)
#> [1] 0.8131924

源代码:R/prob-roc_auc.R

相关用法


注:本文由纯净天空筛选整理自Max Kuhn等大神的英文原创作品 Area under the receiver operator curve。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。