Python PyTorch Mish用法及代码示例

本文简要介绍python语言中 torch.nn.Mish 的用法。

用法:

class torch.nn.Mish(inplace=False)

逐元素应用 Mish 函数。 Mish：一种自正则化的非单调神经激活函数。

\text{Mish}(x) = x * \text{Tanh}(\text{Softplus}(x))

注意

参看Mish：一种自正则化的非单调神经激活函数

形状：

• 输入： (*) ，其中 * 表示任意数量的维度。

• 输出：(*)，与输入的形状相同。

例子：

>>> m = nn.Mish()
>>> input = torch.randn(2)
>>> output = m(input)