SDPBackend#
- class torch.nn.attention.SDPBackend#
一個列舉類,包含縮放點積注意力(scaled dot product attention)的不同後端。此後端類設計用於 `sdpa_kernel` 上下文管理器。
- 以下列舉可用
ERROR: 嘗試確定後端時發生錯誤。
MATH: 縮放點積注意力的數學後端。
FLASH_ATTENTION: 縮放點積注意力的 Flash Attention 後端。
EFFICIENT_ATTENTION: 縮放點積注意力的高效注意力後端。
CUDNN_ATTENTION: 縮放點積注意力的 cuDNN 後端。
OVERRIDEABLE: 可覆蓋的擴充套件後端。
有關更多詳細資訊,請參閱
torch.nn.attention.sdpa_kernel()。警告
此類尚處於 Beta 階段,可能會發生更改。
- property name#