快捷方式

QuantizeTensorKwargs

class torchao.quantization.quantize_.common.QuantizeTensorKwargs[源]

用於建立量化張量的關鍵字引數容器的基類。這對於支援在權重張量上儲存啟用構造引數,同時支援多種型別的啟用量化是必需的。

例如:

class Float8Tensor(…)

@classmethod def to_float8(cls, tensor, quant_kwargs: QuantizeTensorKwargs)

文件

訪問全面的 PyTorch 開發者文件

檢視文件

教程

為初學者和高階開發者提供深入的教程

檢視教程

資源

查詢開發資源並讓您的問題得到解答

檢視資源