Dropout

class torch.nn.Dropout(p=0.5, inplace=False)

在訓練期間，以機率 p 隨機將輸入張量中的一些元素歸零。

歸零的元素是針對每次前向呼叫獨立選擇的，並從伯努利分佈中取樣。

每個通道將在每次前向呼叫時獨立歸零。

這已被證明是一種有效的正則化技術，可以防止神經元過早協同適應，如論文 Improving neural networks by preventing co-adaptation of feature detectors 所述。

此外，輸出在訓練期間會乘以因子 $\frac{1}{1-p}$。這意味著在評估期間，該模組僅計算恆等函式。

引數

• p (float) – 元素被歸零的機率。預設值：0.5

• inplace (bool) – 如果設定為 True，則該操作將就地執行。預設值：False

形狀

• 輸入：$(*)$。輸入可以是任何形狀

• 輸出：$(*)$。輸出與輸入具有相同的形狀

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)

forward(input)

執行前向傳播。

返回型別

張量