torch.mps#
創建於:2023 年 2 月 10 日 | 最後更新於:2025 年 6 月 8 日
此包提供了一個在 Python 中訪問 MPS(Metal Performance Shaders)後端介面的介面。Metal 是 Apple 的程式設計 Metal GPU(圖形處理器單元)的 API。使用 MPS 意味著可以透過在 Metal GPU 上執行工作來提高效能。有關更多詳細資訊,請參閱 https://developer.apple.com/documentation/metalperformanceshaders。
返回可用 MPS 裝置的數量。 |
|
等待 MPS 裝置上的所有流中的所有核心完成。 |
|
以 ByteTensor 形式返回隨機數生成器狀態。 |
|
設定隨機數生成器狀態。 |
|
設定用於生成隨機數的種子。 |
|
將生成隨機數的種子設定為一個隨機數。 |
|
釋放快取分配器當前持有的所有未佔用的快取記憶體,以便其他 GPU 應用程式可以使用它們。 |
|
設定記憶體分數以限制程序在 MPS 裝置上的記憶體分配。 |
|
以位元組為單位返回當前被張量佔用的 GPU 記憶體。 |
|
返回 Metal 驅動程式為該程序分配的總 GPU 記憶體(以位元組為單位)。 |
|
返回 GPU 記憶體的推薦最大工作集大小(以位元組為單位)。 |
|
從原始檔編譯計算著色器,並允許從 Python 執行時方便地呼叫其中定義的核心。示例。 |
MPS 效能分析器#
從 MPS 後端開始 OS Signpost 跟蹤。 |
|
停止從 MPS 後端生成 OS Signpost 跟蹤。 |
|
上下文管理器,用於啟用從 MPS 後端生成 OS Signpost 跟蹤。 |
|
檢查 Metal 捕獲是否正在進行中 |
|
檢查 metal_capture 上下文管理器是否可用。要啟用 Metal 捕獲,請設定 MTL_CAPTURE_ENABLED 環境變數。 |
|
上下文管理器,用於將 Metal 呼叫捕獲到 gputrace 中 |
MPS 事件#
MPS 事件的包裝器。 |