評價此頁

generate_numeric_debug_handle#

class torch.ao.quantization.generate_numeric_debug_handle(ep)[source]#

為給定的 ExportedProgram 中的所有節點(如 conv2d、squeeze、conv1d 等)附加 numeric_debug_handle_id,但佔位符節點除外。請注意,像 getattr 這樣的節點不在範圍內,因為它們不在圖中。

輸入匯出程式的圖節點是就地修改的。

以下是使用 debug handle 量化流程的示例

ep = export_for_training(eager_model, example_inputs)
generate_numeric_debug_handle(ep)

m = ep.module()
quantizer = XNNPACKQuantizer()
m = prepare_pt2e(m, quantizer)
m = convert_pt2e(m)