compilers_index

在 Google Colab 中執行

Colab

下載 Notebook

Notebook

在 GitHub 上檢視

GitHub

編譯器

探索 PyTorch 編譯器，以高效地最佳化和部署模型。瞭解 torch.compile 和 torch.export 等 API，它們可以提升模型效能並簡化部署流程。探索編譯後的自動微分、動態編譯控制以及第三方後端解決方案等高階主題。

警告

TorchScript 已不再積極開發。

---

torch.compile 教程

使用 torch.compile（最新的 PyTorch 編譯器解決方案）以最少的程式碼更改加速您的模型。

模型最佳化,torch.compile

torch.compile 端到端教程

一個將 torch.compile 應用於真實模型的示例，展示了速度提升。

模型最佳化,torch.compile

編譯後的自動微分：為 torch.compile 捕獲更大的反向傳播圖

瞭解如何使用編譯後的自動微分來捕獲更大的反向傳播圖。

模型最佳化,CUDA,torch.compile

Inductor CPU 後端除錯和效能分析

學習 ``torch.compile`` 與 Inductor CPU 後端的使用、除錯和效能分析。

模型最佳化,torch.compile

使用 torch.compiler.set_stance 進行動態編譯控制

瞭解如何使用 torch.compiler.set_stance

模型最佳化,torch.compile

torch.export 流程演示、常見挑戰及解決方案

瞭解如何匯出模型以用於流行用例

模型最佳化,torch.compile

(beta) 使用 torch.compile 編譯最佳化器

使用 torch.compile 加速最佳化器

模型最佳化,torch.compile

(beta) 使用 LR 排程器執行已編譯的最佳化器

使用 LRScheduler 和 torch.compiled 最佳化器加速訓練

模型最佳化,torch.compile

將使用者定義的 Triton 核心與 ``torch.compile`` 結合使用

瞭解如何將使用者定義的核心與 ``torch.compile`` 結合使用

模型最佳化,torch.compile

``torch.compile`` 中的編譯時快取

瞭解如何在 ``torch.compile`` 中使用編譯時快取

模型最佳化,torch.compile

編譯時快取配置

瞭解如何在 ``torch.compile`` 中配置編譯時快取

模型最佳化,torch.compile

透過區域編譯減少 torch.compile 的冷啟動編譯時間

瞭解如何使用區域編譯來控制冷啟動編譯時間

模型最佳化,torch.compile

torch.export AOTInductor Python 執行時教程

瞭解一個端到端的示例，說明如何為 Python 執行時使用 AOTInductor。

基礎,torch.export

深入瞭解 torch.export

瞭解如何使用 torch.export 將 PyTorch 模型匯出為標準化模型表示。

基礎,torch.export

(可選) 使用 TorchDynamo 後端將 PyTorch 模型匯出為 ONNX 並使用 ONNX Runtime 執行

在 PyTorch 中構建一個影像分類模型，並將其轉換為 ONNX，然後使用 ONNX Runtime 進行部署。

生產,ONNX,後端

擴充套件 ONNX 匯出器運算子支援

端到端演示如何處理 ONNX 中的不支援的運算子。

生產,ONNX,後端

匯出帶有控制流的模型到 ONNX

演示在將 PyTorch 模型匯出到 ONNX 時如何處理控制流邏輯。

生產,ONNX,後端

使用 FX 構建卷積/批次歸一化融合器

構建一個簡單的 FX 傳遞，將批次歸一化融合到卷積中，以提高推理效能。

FX

使用 FX 構建簡單的效能分析器

構建一個簡單的 FX 直譯器，記錄運算元、模組和函式呼叫的執行時，並報告統計資料

FX