評價此頁

torch.nn.utils.prune.ln_structured#

torch.nn.utils.prune.ln_structured(module, name, amount, n, dim, importance_scores=None)[原始碼]#

透過移除指定維度上 Ln-範數最低的通道來修剪張量。

透過移除指定 dim 維度上 Ln-範數最低的指定 amount 數量的(當前未被修剪的)通道,來修剪 module 中名為 name 的引數對應的張量。透過以下方式就地修改模組(並返回修改後的模組):

  1. 新增一個名為 name+'_mask' 的命名緩衝區,對應於剪枝方法應用於引數 name 的二值掩碼。

  2. 用剪枝後的版本替換引數 name,同時將原始(未剪枝)引數儲存在一個名為 name+'_orig' 的新引數中。

引數
  • module (nn.Module) – module containing the tensor to prune

  • name (str) – 在 module 中執行剪枝操作的引數名稱。

  • amount (intfloat) – 要剪枝的引數數量。如果是 float,則應介於 0.0 和 1.0 之間,表示要剪枝的引數的比例。如果是 int,則表示要剪枝的引數的絕對數量。

  • n (int, float, inf, -inf, 'fro', 'nuc') – 有效的 p 引數值請參閱 torch.norm() 的文件。

  • dim (int) – 定義要修剪通道的維度的索引。

  • importance_scores (torch.Tensor) – 用於計算修剪掩碼的重要性分數張量(形狀與模組引數相同)。此張量中的值表示要修剪的引數中相應元素的重要性。如果未指定或為 None,則將使用模組引數本身。

返回

模組的修改(即剪枝)後的版本

返回型別

module (nn.Module)

示例

>>> from torch.nn.utils import prune
>>> m = prune.ln_structured(
...     nn.Conv2d(5, 3, 2), "weight", amount=0.3, dim=1, n=float("-inf")
... )