評價此頁

torch.mps#

創建於:2023 年 2 月 10 日 | 最後更新於:2025 年 6 月 8 日

此包提供了一個在 Python 中訪問 MPS(Metal Performance Shaders)後端介面的介面。Metal 是 Apple 的程式設計 Metal GPU(圖形處理器單元)的 API。使用 MPS 意味著可以透過在 Metal GPU 上執行工作來提高效能。有關更多詳細資訊,請參閱 https://developer.apple.com/documentation/metalperformanceshaders

device_count

返回可用 MPS 裝置的數量。

synchronize

等待 MPS 裝置上的所有流中的所有核心完成。

get_rng_state

以 ByteTensor 形式返回隨機數生成器狀態。

set_rng_state

設定隨機數生成器狀態。

manual_seed

設定用於生成隨機數的種子。

seed

將生成隨機數的種子設定為一個隨機數。

empty_cache

釋放快取分配器當前持有的所有未佔用的快取記憶體,以便其他 GPU 應用程式可以使用它們。

set_per_process_memory_fraction

設定記憶體分數以限制程序在 MPS 裝置上的記憶體分配。

current_allocated_memory

以位元組為單位返回當前被張量佔用的 GPU 記憶體。

driver_allocated_memory

返回 Metal 驅動程式為該程序分配的總 GPU 記憶體(以位元組為單位)。

recommended_max_memory

返回 GPU 記憶體的推薦最大工作集大小(以位元組為單位)。

compile_shader

從原始檔編譯計算著色器,並允許從 Python 執行時方便地呼叫其中定義的核心。示例。

MPS 效能分析器#

profiler.start

從 MPS 後端開始 OS Signpost 跟蹤。

profiler.stop

停止從 MPS 後端生成 OS Signpost 跟蹤。

profiler.profile

上下文管理器,用於啟用從 MPS 後端生成 OS Signpost 跟蹤。

profiler.is_capturing_metal

檢查 Metal 捕獲是否正在進行中

profiler.is_metal_capture_enabled

檢查 metal_capture 上下文管理器是否可用。要啟用 Metal 捕獲,請設定 MTL_CAPTURE_ENABLED 環境變數。

profiler.metal_capture

上下文管理器,用於將 Metal 呼叫捕獲到 gputrace 中

MPS 事件#

event.Event

MPS 事件的包裝器。