評價此頁

torch.nn.utils.prune.l1_unstructured#

torch.nn.utils.prune.l1_unstructured(module, name, amount, importance_scores=None)[source]#

透過移除 L1-範數最低的單元來修剪張量。

透過移除指定 amount 的(當前未被修剪的)具有最低 L1-範數的單元,來修剪 module 中名為 name 的引數對應的張量。透過以下方式修改 module(並返回修改後的 module):

  1. 新增一個名為 name+'_mask' 的命名緩衝區,對應於剪枝方法應用於引數 name 的二值掩碼。

  2. 用剪枝後的版本替換引數 name,同時將原始(未剪枝)引數儲存在一個名為 name+'_orig' 的新引數中。

引數
  • module (nn.Module) – module containing the tensor to prune

  • name (str) – 在 module 中執行剪枝操作的引數名稱。

  • amount (intfloat) – 要剪枝的引數數量。如果是 float,則應介於 0.0 和 1.0 之間,表示要剪枝的引數的比例。如果是 int,則表示要剪枝的引數的絕對數量。

  • importance_scores (torch.Tensor) – 用於計算修剪掩碼的重要性分數張量(形狀與模組引數相同)。此張量中的值表示要修剪的引數中相應元素的重要性。如果未指定或為 None,則將使用模組引數本身。

返回

模組的修改(即剪枝)後的版本

返回型別

module (nn.Module)

示例

>>> m = prune.l1_unstructured(nn.Linear(2, 3), "weight", amount=0.2)
>>> m.state_dict().keys()
odict_keys(['bias', 'weight_orig', 'weight_mask'])