Python PyTorch Dropout用法及代码示例

本文简要介绍python语言中 torch.nn.Dropout 的用法。

用法:

class torch.nn.Dropout(p=0.5, inplace=False)

参数：

• p-元素归零的概率。默认值：0.5

• inplace-如果设置为 True ，将就地执行此操作。默认值：False

在训练期间，使用来自伯努利分布的样本以概率 p 将输入张量的一些元素随机归零。每个通道将在每次前转调用时独立归零。

如本文所述，这已被证明是一种用于正则化和防止神经元共同适应的有效技术通过防止特征检测器的共同适应来改进神经网络.

此外，在训练期间，输出按\frac{1}{1-p} 的因子缩放。这意味着在评估期间，模块只计算一个恒等函数。

形状：

• 输入：(*)。输入可以是任何形状

• 输出：(*)。输出与输入具有相同的形状

例子：

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)