Python PyTorch Dropout用法及代碼示例

本文簡要介紹python語言中 torch.nn.Dropout 的用法。

用法:

class torch.nn.Dropout(p=0.5, inplace=False)

參數：

• p-元素歸零的概率。默認值：0.5

• inplace-如果設置為 True ，將就地執行此操作。默認值：False

在訓練期間，使用來自伯努利分布的樣本以概率 p 將輸入張量的一些元素隨機歸零。每個通道將在每次前轉調用時獨立歸零。

如本文所述，這已被證明是一種用於正則化和防止神經元共同適應的有效技術通過防止特征檢測器的共同適應來改進神經網絡.

此外，在訓練期間，輸出按\frac{1}{1-p} 的因子縮放。這意味著在評估期間，模塊隻計算一個恒等函數。

形狀：

• 輸入：(*)。輸入可以是任何形狀

• 輸出：(*)。輸出與輸入具有相同的形狀

例子：

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)