torch.cuda.memory.memory_allocated

torch.cuda.memory.memory_allocated(device=None)

返回給定裝置上張量當前佔用的 GPU 記憶體（以位元組為單位）。

引數

device (torch.device 或 int, 可選) – 選擇的裝置。如果 device 為 None（預設），則返回當前裝置（由 current_device() 指定）的統計資訊。

返回型別

int

注意

這可能比 nvidia-smi 顯示的數量少，因為一些未使用的記憶體可能被快取分配器佔用，並且需要建立一些上下文到 GPU 上。有關 GPU 記憶體管理的更多詳細資訊，請參閱 記憶體管理。