RandomStructured#

class torch.nn.utils.prune.RandomStructured(amount, dim=-1)[source]#

隨機修剪張量中的整個（當前未修剪的）通道。

引數

amount (int 或 float) – 要剪枝的引數數量。如果是 float，則應介於 0.0 和 1.0 之間，表示要剪枝的引數的比例。如果是 int，則表示要剪枝的引數的絕對數量。
dim (int, optional) – 定義要修剪通道的維度索引。預設值：-1。

classmethod apply(module, name, amount, dim=-1)[source]#

Add pruning on the fly and reparametrization of a tensor.

Adds the forward pre-hook that enables pruning on the fly and the reparametrization of a tensor in terms of the original tensor and the pruning mask.

引數

module (nn.Module) – module containing the tensor to prune
name (str) – 在 module 中執行剪枝操作的引數名稱。
amount (int 或 float) – 要剪枝的引數數量。如果是 float，則應介於 0.0 和 1.0 之間，表示要剪枝的引數的比例。如果是 int，則表示要剪枝的引數的絕對數量。
dim (int, optional) – 定義要修剪通道的維度索引。預設值：-1。

apply_mask(module)[source]#

Simply handles the multiplication between the parameter being pruned and the generated mask.

Fetches the mask and the original tensor from the module and returns the pruned version of the tensor.

compute_mask(t, default_mask)[source]#

計算並返回輸入張量 t 的掩碼。

從基礎 default_mask（如果張量尚未被修剪，則應為全 1 的掩碼）開始，生成一個隨機掩碼，該掩碼將應用於 default_mask 之上，透過在張量的指定維度上隨機將通道置零。

引數

返回

應用於 t 的掩碼，維度與 t 相同

返回型別

mask (torch.Tensor)

引發

IndexError – 如果 self.dim >= len(t.shape)

prune(t, default_mask=None, importance_scores=None)[source]#

Compute and returns a pruned version of input tensor t.

根據 compute_mask() 中指定的修剪規則進行操作。

引數

t (torch.Tensor) – 要剪枝的張量（維度與 default_mask 相同）。
importance_scores (torch.Tensor) – 重要性分數張量（與 t 形狀相同），用於計算剪枝 t 的掩碼。此張量中的值指示正在剪枝的 t 中相應元素的 গুরুত্ব。如果未指定或為 None，則將使用張量 t 本身。
default_mask (torch.Tensor, optional) – 前一個剪枝迭代的掩碼（如果有）。在確定剪枝應作用於張量的哪個部分時需要考慮。如果為 None，則預設為一個全為 1 的掩碼。

返回

張量 t 的修剪版本。

remove(module)[source]#

從模組中移除修剪重引數化。

名為 name 的已剪枝引數將永久保持剪枝狀態，名為 name+'_orig' 的引數將從引數列表中移除。類似地，名為 name+'_mask' 的緩衝區也將從緩衝區中移除。

注意

修剪本身**不會**被撤銷或恢復！

文件