torch.mtia

建立日期：2023 年 7 月 11 日 | 最後更新日期：2025 年 6 月 8 日

MTIA 後端是獨立於主線實現的，此處僅定義介面。

此包提供了訪問 Python 中 MTIA 後端的介面

StreamContext	選擇給定流的上下文管理器。
current_device	返回當前選定裝置的索引。
current_stream	返回給定裝置的當前選定的 Stream。
default_stream	返回給定裝置的預設 Stream。
device_count	返回可用的 MTIA 裝置數量。
init
is_available	如果 MTIA 裝置可用，則返回 true
is_initialized	返回 PyTorch 的 MTIA 狀態是否已初始化。
memory_stats	返回給定裝置的 MTIA 記憶體分配器統計資訊的字典。
get_device_capability	返回給定裝置的效能，形式為（主版本，次版本）元組。
empty_cache	清空 MTIA 裝置快取。
record_memory_history	啟用/停用 MTIA 分配器上的記憶體分析器
snapshot	返回 MTIA 記憶體分配器歷史記錄的字典
attach_out_of_memory_observer	將一個記憶體不足觀察器附加到 MTIA 記憶體分配器
set_device	設定當前裝置。
set_stream	設定當前流。這是一個用於設定流的包裝 API。
stream	包裝選擇給定流的上下文管理器 StreamContext。
synchronize	等待 MTIA 裝置上所有流中的所有作業完成。
device	更改選定裝置的上下文管理器。
set_rng_state	設定隨機數生成器狀態。
get_rng_state	以 ByteTensor 形式返回隨機數生成器狀態。
DeferredMtiaCallError

流和事件

事件	查詢和記錄流狀態以識別或控制流之間的依賴關係並測量時間。
流	一個按順序執行相應任務的佇列，非同步地按先進先出 (FIFO) 順序執行。