NUMA 繫結實用程式#

創建於：2025 年 7 月 25 日 | 最後更新於：2025 年 8 月 12 日

class torch.numa.binding.AffinityMode(value)[source]#: 有關每個親和模式的詳細資訊，請參閱 torch.distributed.run。

class torch.numa.binding.NumaOptions(affinity_mode: torch.numa.binding.AffinityMode, should_fall_back_if_binding_fails: bool = False)[source]#

affinity_mode: AffinityMode#

如果為 true，則在無法計算或應用 NUMA 繫結時，我們將回退到使用原始命令/入口點。

您應該避免使用此選項！它僅作為一種安全機制，用於促進 NUMA 繫結的批次部署。

torch.numa.binding.maybe_temporarily_apply_numa_binding_to_current_thread(*, gpu_index, numa_options)[source]#

1. 將 NUMA 繫結應用於當前執行緒，適用於將與 GPU gpu_index 互動的執行緒。 2. 在退出上下文管理器之前，將 CPU 親和性重置為原始狀態。

文件