Dropout

class torch.nn.modules.dropout.Dropout(p=0.5, inplace=False)

在訓練期間，以機率 p 隨機將輸入張量中的一些元素歸零。

在每次前向呼叫時，獨立地從伯努利分佈中取樣選擇要歸零的元素。

每個通道在每次前向呼叫時都會獨立地歸零。

正如論文 Improving neural networks by preventing co-adaptation of feature detectors 中所述，這已被證明是正則化和防止神經元協同適應的有效技術。

此外，在訓練期間，輸出會乘以一個因子 $\frac{1}{1-p}$ 。這意味著在評估期間，該模組僅計算恆等函式。

引數

• p (float) – 元素被歸零的機率。預設值：0.5

• inplace (bool) – 如果設定為 True，則該操作將就地執行。預設值：False

形狀

• 輸入：$(*)$。輸入可以是任何形狀

• 輸出：$(*)$。輸出與輸入具有相同的形狀

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)

forward(input)

執行前向傳播。

返回型別

張量