評價此頁

SDPBackend#

class torch.nn.attention.SDPBackend#

一個列舉類,包含縮放點積注意力(scaled dot product attention)的不同後端。此後端類設計用於 `sdpa_kernel` 上下文管理器。

以下列舉可用
  • ERROR: 嘗試確定後端時發生錯誤。

  • MATH: 縮放點積注意力的數學後端。

  • FLASH_ATTENTION: 縮放點積注意力的 Flash Attention 後端。

  • EFFICIENT_ATTENTION: 縮放點積注意力的高效注意力後端。

  • CUDNN_ATTENTION: 縮放點積注意力的 cuDNN 後端。

  • OVERRIDEABLE: 可覆蓋的擴充套件後端。

有關更多詳細資訊,請參閱 torch.nn.attention.sdpa_kernel()

警告

此類尚處於 Beta 階段,可能會發生更改。

property name#