R yardstick average_precision 查准率曲线下面积

average_precision() 是 pr_auc() 的替代方案，它避免了当 recall == 0 时 precision 的值应该是什么的任何歧义，并且还没有任何误报值(有人说它应该是 0 ，其他人说 1 ，其他人说未定义)。

它计算从 pr_curve() 返回的精度值的加权平均值，其中权重是召回率相对于先前阈值的增加。完整曲线请参见pr_curve()。

用法

average_precision(data, ...)

# S3 method for data.frame
average_precision(
  data,
  truth,
  ...,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL
)

average_precision_vec(
  truth,
  estimate,
  estimator = NULL,
  na_rm = TRUE,
  event_level = yardstick_event_level(),
  case_weights = NULL,
  ...
)

参数

data: 包含 truth 和 ... 指定的列的 data.frame 。
...: 一组不带引号的列名称或一个或多个 dplyr 选择器函数，用于选择哪些变量包含类概率。如果 truth 是二进制，则仅应选择 1 列，并且它应对应于 event_level 的值。否则，列的数量应与 truth 的因子级别一样多，并且列的顺序应与 truth 的因子级别相同。
truth: 真实类结果的列标识符(即 factor )。这应该是一个不带引号的列名，尽管此参数是通过表达式传递的并且支持quasiquotation(您可以不带引号的列名)。对于 _vec() 函数，一个 factor 向量。
estimator: "binary" 、 "macro" 或 "macro_weighted" 之一指定要完成的平均类型。 "binary" 仅与两类情况相关。另外两个是计算多类指标的通用方法。默认会根据 truth 自动选择 "binary" 或 "macro" 。
na_rm: logical 值，指示在计算继续之前是否应剥离 NA 值。
event_level: 单个字符串。 "first" 或"second" 指定将truth 的哪个级别视为"event"。此参数仅适用于 estimator = "binary" 。默认使用内部帮助程序，通常默认为 "first" ，但是，如果设置了已弃用的全局选项 yardstick.event_first ，则将使用该帮助程序并发出警告。
case_weights: 案例权重的可选列标识符。这应该是一个不带引号的列名称，其计算结果为 data 中的数字列。对于 _vec() 函数，一个数值向量。
estimate: 如果truth是二进制的，对应于 "relevant" 类的类概率的数值向量。否则，矩阵的列数与因子级别一样多truth.假设它们的顺序与 truth 的级别相同。

值

tibble 包含列 .metric 、 .estimator 和 .estimate 以及 1 行值。

对于分组 DataFrame ，返回的行数将与组数相同。

对于 average_precision_vec() ，单个 numeric 值(或 NA )。

细节

平均精度的计算是精度值的加权平均值。假设您有从 pr_curve() 返回的 n 行，则它是从 2 到 n 的总和，将精度值 p_i 乘以超过先前阈值 r_i - r_(i-1) 的召回率增加值。

通过从2 到n 求和，精度值p_1 永远不会被使用。虽然 pr_curve() 返回 p_1 的值，但从技术上讲，它未定义为 tp / (tp + fp) 以及 tp = 0 和 fp = 0 。常见的约定是使用 1 代替 p_1 ，但该指标具有避免歧义的良好特性。另一方面，只要有一些事件(p)，r_1就定义良好，并且它是tp / p和tp = 0，所以r_1 = 0。

当 p_1 定义为 1 时，average_precision() 和 roc_auc() 值通常非常接近。

多级

此指标可使用宏观平均和宏观加权平均。如果提供了超过 2 个级别的 truth 因子，则默认选择宏平均。否则，将进行标准二进制计算。有关详细信息，请参阅vignette("multiclass", "yardstick")。

也可以看看

pr_curve() 用于计算全精度召回曲线。

pr_auc() 用于使用梯形规则计算精确召回曲线下的面积。

其他类概率指标：brier_class() , classification_cost() , gain_capture() , mn_log_loss() , pr_auc() , roc_auc() , roc_aunp() , roc_aunu()

例子

# ---------------------------------------------------------------------------
# Two class example

# `truth` is a 2 level factor. The first level is `"Class1"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(two_class_example)

# Binary metrics using class probabilities take a factor `truth` column,
# and a single class probability column containing the probabilities of
# the event of interest. Here, since `"Class1"` is the first level of
# `"truth"`, it is the event of interest and we pass in probabilities for it.
average_precision(two_class_example, truth, Class1)
#> # A tibble: 1 × 3
#>   .metric           .estimator .estimate
#>   <chr>             <chr>          <dbl>
#> 1 average_precision binary         0.947

# ---------------------------------------------------------------------------
# Multiclass example

# `obs` is a 4 level factor. The first level is `"VF"`, which is the
# "event of interest" by default in yardstick. See the Relevant Level
# section above.
data(hpc_cv)

# You can use the col1:colN tidyselect syntax
library(dplyr)
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  average_precision(obs, VF:L)
#> # A tibble: 1 × 3
#>   .metric           .estimator .estimate
#>   <chr>             <chr>          <dbl>
#> 1 average_precision macro          0.617

# Change the first level of `obs` from `"VF"` to `"M"` to alter the
# event of interest. The class probability columns should be supplied
# in the same order as the levels.
hpc_cv %>%
  filter(Resample == "Fold01") %>%
  mutate(obs = relevel(obs, "M")) %>%
  average_precision(obs, M, VF:L)
#> # A tibble: 1 × 3
#>   .metric           .estimator .estimate
#>   <chr>             <chr>          <dbl>
#> 1 average_precision macro          0.617

# Groups are respected
hpc_cv %>%
  group_by(Resample) %>%
  average_precision(obs, VF:L)
#> # A tibble: 10 × 4
#>    Resample .metric           .estimator .estimate
#>    <chr>    <chr>             <chr>          <dbl>
#>  1 Fold01   average_precision macro          0.617
#>  2 Fold02   average_precision macro          0.625
#>  3 Fold03   average_precision macro          0.699
#>  4 Fold04   average_precision macro          0.685
#>  5 Fold05   average_precision macro          0.625
#>  6 Fold06   average_precision macro          0.656
#>  7 Fold07   average_precision macro          0.617
#>  8 Fold08   average_precision macro          0.659
#>  9 Fold09   average_precision macro          0.632
#> 10 Fold10   average_precision macro          0.611

# Weighted macro averaging
hpc_cv %>%
  group_by(Resample) %>%
  average_precision(obs, VF:L, estimator = "macro_weighted")
#> # A tibble: 10 × 4
#>    Resample .metric           .estimator     .estimate
#>    <chr>    <chr>             <chr>              <dbl>
#>  1 Fold01   average_precision macro_weighted     0.750
#>  2 Fold02   average_precision macro_weighted     0.745
#>  3 Fold03   average_precision macro_weighted     0.794
#>  4 Fold04   average_precision macro_weighted     0.757
#>  5 Fold05   average_precision macro_weighted     0.740
#>  6 Fold06   average_precision macro_weighted     0.747
#>  7 Fold07   average_precision macro_weighted     0.751
#>  8 Fold08   average_precision macro_weighted     0.759
#>  9 Fold09   average_precision macro_weighted     0.714
#> 10 Fold10   average_precision macro_weighted     0.742

# Vector version
# Supply a matrix of class probabilities
fold1 <- hpc_cv %>%
  filter(Resample == "Fold01")

average_precision_vec(
   truth = fold1$obs,
   matrix(
     c(fold1$VF, fold1$F, fold1$M, fold1$L),
     ncol = 4
   )
)
#> [1] 0.6173363

源代码：R/prob-average_precision.R

相关用法

注：本文由纯净天空筛选整理自Max Kuhn等大神的英文原创作品 Area under the precision recall curve。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。

用法

参数

值

细节

多级

相关级别

也可以看看

例子