快捷方式

swap_linear_with_smooth_fq_linear

torchao.quantization.swap_linear_with_smooth_fq_linear(model, skip_fqn_list=None, cur_fqn='', alpha=0.5) None[原始碼]

將模型中的線性層替換為它們的 SmoothFakeDynamicallyQuantizedLinear 等效層。

引數:
  • model (torch.nn.Module) – 包含要替換的線性層的模型。

  • skip_fqn_list (list of str, optional) – 在替換過程中要跳過的完全限定名稱列表。預設為 None。

  • cur_fqn (str, optional) – 當前正在處理的模組的完全限定名稱。預設為“” 。

  • alpha (float, optional) – SmoothQuant 的縮放因子。預設為 0.5。

返回:

文件

訪問全面的 PyTorch 開發者文件

檢視文件

教程

為初學者和高階開發者提供深入的教程

檢視教程

資源

查詢開發資源並讓您的問題得到解答

檢視資源