vit_l_16

torchvision.models.vit_l_16(*, weights: Optional[ViT_L_16_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

根據 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 構建 vit_l_16 架構。

引數:

• weights (ViT_L_16_Weights, 可選) – 要使用的預訓練權重。有關更多詳細資訊和可能的值，請參閱下面的 ViT_L_16_Weights。預設情況下，不使用預訓練權重。

• progress (bool, optional) – 如果為 True，則在 stderr 上顯示下載進度條。預設為 True。

• **kwargs – 傳遞給 torchvision.models.vision_transformer.VisionTransformer 基類的引數。有關此類更多詳細資訊，請參閱 原始碼。

class torchvision.models.ViT_L_16_Weights(value)

上面的模型構建器接受以下值作為 weights 引數。ViT_L_16_Weights.DEFAULT 等同於 ViT_L_16_Weights.IMAGENET1K_V1。您也可以使用字串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_V1'。

ViT_L_16_Weights.IMAGENET1K_V1:

這些權重是使用 TorchVision 的 新訓練配方 的修改版本從頭開始訓練的。也可用作 ViT_L_16_Weights.DEFAULT。

acc@1 (在 ImageNet-1K 上)	79.662
acc@5 (在 ImageNet-1K 上)	94.638
類別	丁鯡、金魚、大白鯊、... (省略 997 個)
引數數量	304326632
min_size	height=224, width=224
方案	連結
GFLOPS	61.55
檔案大小	1161.0 MB

推理轉換可在 ViT_L_16_Weights.IMAGENET1K_V1.transforms 獲得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單個 (C, H, W) 影像 torch.Tensor 物件。影像使用 interpolation=InterpolationMode.BILINEAR 縮放到 resize_size=[242]，然後進行 crop_size=[224] 的中心裁剪。最後，值首先被縮放到 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行歸一化。

ViT_L_16_Weights.IMAGENET1K_SWAG_E2E_V1:

這些權重是透過在 ImageNet-1K 資料上進行端到端微調原始 SWAG 權重來學習的。

acc@1 (在 ImageNet-1K 上)	88.064
acc@5 (在 ImageNet-1K 上)	98.512
類別	丁鯡、金魚、大白鯊、... (省略 997 個)
方案	連結
license	連結
引數數量	305174504
min_size	height=512, width=512
GFLOPS	361.99
檔案大小	1164.3 MB

推理轉換可在 ViT_L_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms 獲得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單個 (C, H, W) 影像 torch.Tensor 物件。影像使用 interpolation=InterpolationMode.BICUBIC 縮放到 resize_size=[512]，然後進行 crop_size=[512] 的中心裁剪。最後，值首先被縮放到 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行歸一化。

ViT_L_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:

這些權重由原始凍結的 SWAG 主幹權重和一個在 ImageNet-1K 資料上訓練的線性分類器組成。

acc@1 (在 ImageNet-1K 上)	85.146
acc@5 (在 ImageNet-1K 上)	97.422
類別	丁鯡、金魚、大白鯊、... (省略 997 個)
方案	連結
license	連結
引數數量	304326632
min_size	height=224, width=224
GFLOPS	61.55
檔案大小	1161.0 MB

推理轉換可在 ViT_L_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms 獲得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單個 (C, H, W) 影像 torch.Tensor 物件。影像使用 interpolation=InterpolationMode.BICUBIC 縮放到 resize_size=[224]，然後進行 crop_size=[224] 的中心裁剪。最後，值首先被縮放到 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行歸一化。