LazyLinear

class torch.nn.modules.linear.LazyLinear(out_features, bias=True, device=None, dtype=None)

一個 torch.nn.Linear 模組，其中 in_features 是被推斷出來的。

在此模組中，weight 和 bias 是 torch.nn.UninitializedParameter 類。它們將在第一次呼叫 forward 後進行初始化，該模組將成為一個常規的 torch.nn.Linear 模組。Linear 的 in_features 引數將從 input.shape[-1] 推斷得出。

有關延遲模組及其限制的更多文件，請檢視 torch.nn.modules.lazy.LazyModuleMixin。

引數

• out_features (int) – 每個輸出樣本的大小

• bias (UninitializedParameter) – 如果設定為 False，則該層不會學習加性偏差。預設為 True

變數

• weight (torch.nn.parameter.UninitializedParameter) – 該模組的可學習權重，形狀為 $(\text{out\_features}, \text{in\_features})$。其值從 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$，其中 $k = \frac{1}{\text{in\_features}}$

• bias (torch.nn.parameter.UninitializedParameter) – 該模組的可學習偏差，形狀為 $(\text{out\_features})$。如果 bias 為 True，其值從 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$，其中 $k = \frac{1}{\text{in\_features}}$

cls_to_become

別名：Linear

initialize_parameters(input)

根據 input 推斷 in_features 並初始化引數。

reset_parameters()

根據 __init__ 中使用的初始化重置引數。