評價此頁

torch.cuda.memory.set_per_process_memory_fraction#

torch.cuda.memory.set_per_process_memory_fraction(fraction, device=None)[來源]#

設定程序的記憶體分數。

該分數用於限制快取分配器在 CUDA 裝置上分配記憶體。允許的值等於總可見記憶體乘以分數。如果嘗試在一個程序中分配超過允許值的值,將引發分配器中的記憶體不足錯誤。

引數
  • fraction (float) – 範圍:0~1。允許的記憶體等於 total_memory * fraction。

  • device (torch.deviceint, 可選) – 選擇的裝置。如果為 None,則使用預設的 CUDA 裝置。

注意

總的來說,總可用空閒記憶體小於總容量。