RReLU

class torch.nn.RReLU(lower=0.125, upper=0.3333333333333333, inplace=False)

逐元素應用隨機的 Leaky Rectified Linear Unit 函式。

論文中描述的方法：用於卷積網路的啟用函式經驗評估。

該函式定義為

$$\text{RReLU}(x) = \begin{cases} x & \text{if } x \geq 0 \\ ax & \text{ otherwise } \end{cases}$$

其中 $a$ 在訓練期間從均勻分佈 $\mathcal{U}(\text{lower}, \text{upper})$ 中隨機取樣，而在評估期間 $a$ 固定為 $a = \frac{\text{lower} + \text{upper}}{2}$.

引數

• lower (float) – 均勻分佈的下界。預設值：$\frac{1}{8}$

• upper (float) – 均勻分佈的上界。預設值：$\frac{1}{3}$

• inplace (bool) – 可以選擇是否就地執行操作。預設值：False

形狀

• 輸入： $(*)$，其中 $*$ 表示任意數量的維度。

• 輸出： $(*)$，形狀與輸入相同。

示例

>>> m = nn.RReLU(0.1, 0.3)
>>> input = torch.randn(2)
>>> output = m(input)

extra_repr()

返回模組的額外表示。

返回型別

str

forward(input)

執行前向傳播。

返回型別

張量