Python PyTorch MultiMarginLoss用法及代码示例

本文简要介绍python语言中 torch.nn.MultiMarginLoss 的用法。

用法:

class torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean')

参数：

• p(int,可选的) -默认值为 1 。 1 和 2 是唯一受支持的值。

• margin(float,可选的) -默认值为 1 。

• weight(Tensor,可选的) -给每个类一个手动重新调整的权重。如果给定，它必须是大小为 C 的张量。否则，它被视为拥有所有的。

• size_average(bool,可选的) -已弃用(请参阅reduction)。默认情况下，损失是批次中每个损失元素的平均值。请注意，对于某些损失，每个样本有多个元素。如果字段 size_average 设置为 False ，则会对每个小批量的损失求和。当 reduce 为 False 时忽略。默认值：True

• reduce(bool,可选的) -已弃用(请参阅reduction)。默认情况下，根据 size_average 对每个小批量的观察结果进行平均或求和。当 reduce 是 False 时，返回每个批次元素的损失并忽略 size_average 。默认值：True

• reduction(string,可选的) -指定要应用于输出的缩减：'none' | 'mean' | 'sum' 。 'none' ：不应用减少，'mean'：输出的总和将除以输出中的元素数，'sum'：输出将被求和。注意：size_average 和 reduce 正在被弃用，同时，指定这两个参数中的任何一个都将覆盖 reduction 。默认值：'mean'

创建一个优化多类分类铰链损失(基于边的损失)的标准，该标准位于输入 x (2D 小批量 Tensor )和输出 y (目标的 1D 张量)之间类索引，0 \leq y \leq \text{x.size}(1)-1 )：

对于每个小批量样本，一维输入 x 和标量输出 y 的损失为：

\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}

其中 x \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\} 和 i \neq y 。

或者，您可以通过将 1D weight 张量传递给构造函数来对类赋予不相等的权重。

损失函数则变为：

\text{loss}(x, y) = \frac{\sum_i \max(0, w[y] * (\text{margin} - x[y] + x[i]))^p}{\text{x.size}(0)}

形状：

• 输入：(N, C) 或 (C) ，其中 N 是批量大小，C 是类数。

• 目标：(N) 或 () ，其中每个值为 0 \leq \text{targets}[i] \leq C-1 。

• 输出：标量。如果 reduction 是 'none' ，则形状与目标相同。

例子：

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> loss(x, y)
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
tensor(0.3250)