評價此頁

quantize#

class torch.ao.quantization.quantize(model, run_fn, run_args, mapping=None, inplace=False)[source]#

使用訓練後靜態量化方法量化輸入的浮點模型。

首先,它將為模型準備校準,然後呼叫 run_fn 來執行校準步驟,之後我們將模型轉換為量化模型。

引數
  • model – 輸入的浮點模型

  • run_fn – 用於校準準備好模型的校準函式

  • run_argsrun_fn 的位置引數

  • inplace – 就地執行模型轉換,原始模組將被修改

  • mapping – 原始模組型別與量化對應模組之間的對映關係

返回

量化後的模型。