評價此頁

MultiMarginLoss#

class torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean')[原始碼]#

建立一個準則,用於最佳化輸入 xx(一個二維的 mini-batch Tensor)和輸出 yy(目標類別索引的一維張量,0yx.size(1)10 \leq y \leq \text{x.size}(1)-1)之間的多類分類合頁損失(基於邊距的損失)。

對於每個 mini-batch 樣本,1D 輸入 xx 和標量輸出 yy 的損失為

loss(x,y)=imax(0,marginx[y]+x[i])px.size(0)\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}

其中 i{0,  ,  x.size(0)1}i \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\}iyi \neq y

可選地,您可以為不同的類別設定不同的權重,方法是在建構函式中傳遞一個一維 weight 張量。

此時損失函式變為

loss(x,y)=iw[y]max(0,marginx[y]+x[i])px.size(0)\text{loss}(x, y) = \frac{\sum_i w[y] * \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}
引數
  • p (int, optional) – 預設為 11。僅支援 1122

  • margin (float, optional) – 預設為 11

  • weight (Tensor, optional) – 手動為每個類別指定的重縮放權重。如果指定,它必須是一個大小為 C 的張量。否則,假定其所有元素為 1。

  • size_average (bool, optional) – 已棄用 (參見 reduction)。預設情況下,損失值在批次中的每個損失元素上取平均值。請注意,對於某些損失,每個樣本有多個元素。如果欄位 size_average 設定為 False,則損失值在每個小批次中而是求和。當 reduceFalse 時忽略。預設值:True

  • reduce (bool, optional) – 已棄用 (參見 reduction)。預設情況下,損失值在每個小批次中根據 size_average 對觀測值進行平均或求和。當 reduceFalse 時,返回每個批次元素的損失值,並忽略 size_average。預設值:True

  • reduction (str, optional) – 指定應用於輸出的規約:'none' | 'mean' | 'sum''none':不進行規約;'mean':輸出的總和除以輸出中的元素數量;'sum':輸出將求和。注意:size_averagereduce 正在被棄用,在此期間,指定其中任何一個引數都將覆蓋 reduction。預設為:'mean'

形狀
  • 輸入:(N,C)(N, C)(C)(C),其中 NN 是 batch size,CC 是類別數量。

  • 目標:(N)(N)()(),其中每個值都滿足 0targets[i]C10 \leq \text{targets}[i] \leq C-1

  • 輸出:標量。如果 reduction'none',則形狀與目標相同。

示例

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
>>> loss(x, y)
tensor(0.32...)
forward(input, target)[原始碼]#

執行前向傳播。

返回型別

張量