對由多個輸入平面組成的輸入訊號應用 3D 卷積。
在最簡單的情況下,具有輸入尺寸 ( N , C i n , D , H , W ) (N, C_{in}, D, H, W) ( N , C in , D , H , W ) 和輸出 ( N , C o u t , D o u t , H o u t , W o u t ) (N, C_{out}, D_{out}, H_{out}, W_{out}) ( N , C o u t , D o u t , H o u t , W o u t ) 可以精確地描述為:
o u t ( N i , C o u t j ) = b i a s ( C o u t j ) + ∑ k = 0 C i n − 1 w e i g h t ( C o u t j , k ) ⋆ i n p u t ( N i , k ) out(N_i, C_{out_j}) = bias(C_{out_j}) + \sum_{k = 0}^{C_{in} - 1} weight(C_{out_j}, k) \star input(N_i, k) o u t ( N i , C o u t j ) = bia s ( C o u t j ) + k = 0 ∑ C in − 1 w e i g h t ( C o u t j , k ) ⋆ in p u t ( N i , k ) 其中 ⋆ \star ⋆ 是有效的 3D 交叉相關 運算元。
此模組支援 TensorFloat32 。
在某些 ROCm 裝置上,當使用 float16 輸入時,此模組將對反向傳播使用不同精度 。
stride 控制互相關的步長。
padding 控制應用於輸入的填充量。它可以是一個字串 {‘valid’, ‘same’} 或一個整數元組,表示應用於兩側的隱式填充量。
dilation 控制核點之間的間距;也稱為空洞卷積演算法。這個概念比較難描述,但 這個連結 有一個 dilation 作用的視覺化。
groups 控制輸入和輸出之間的連線。 in_channels 和 out_channels 都必須能被 groups 整除。例如,
當 groups=1 時,所有輸入都會與所有輸出進行卷積。
當 groups=2 時,操作相當於有兩個並排的卷積層,每個層看到一半的輸入通道併產生一半的輸出通道,然後將兩者連線起來。
當 groups = in_channels 時,每個輸入通道都與其自身的濾波器集(大小為 out_channels in_channels \frac{\text{out\_channels}}{\text{in\_channels}} in_channels out_channels )進行卷積。
引數 kernel_size 、stride 、padding 、dilation 可以是
注意
當 groups == in_channels 且 out_channels == K * in_channels (其中 K 是一個正整數)時,此操作也稱為“深度可分離卷積”。
換句話說,對於輸入尺寸為 ( N , C i n , L i n ) (N, C_{in}, L_{in}) ( N , C in , L in ) 的深度卷積(depthwise convolution),以及一個深度乘數 K ,可以透過引數 ( C in = C in , C out = C in × K , . . . , groups = C in ) (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) ( C in = C in , C out = C in × K , ... , groups = C in ) 來執行。
注意
在某些情況下,當在 CUDA 裝置上使用張量並利用 CuDNN 時,此運算元可能會選擇一個非確定性演算法來提高效能。如果這不可取,你可以嘗試將操作設定為確定性的(可能以效能為代價),方法是設定 torch.backends.cudnn.deterministic = True 。有關更多資訊,請參閱 可復現性 。
注意
padding='valid' 等同於不填充。 padding='same' 會填充輸入,使輸出具有與輸入相同的形狀。但是,此模式不支援任何步幅值大於 1 的情況。
注意
此模組支援複雜資料型別,即 complex32, complex64, complex128 。
引數
in_channels (int ) – 輸入影像中的通道數
out_channels (int ) – 卷積產生的通道數
kernel_size (int 或 tuple ) – 卷積核的大小
stride (int 或 tuple , 可選 ) – 卷積的步幅。預設為:1
padding (int , tuple 或 str , optional )– 新增到輸入所有六個面的填充。預設值:0
dilation (int 或 tuple , 可選 ) – 核元素之間的間距。預設為:1
groups (int , 可選 ) – 從輸入通道到輸出通道的阻塞連線數。預設為:1
bias (bool , 可選 ) – 如果為 True ,則向輸出新增可學習的偏置。預設為:True
padding_mode (str , 可選 ) – 'zeros' 、'reflect' 、'replicate' 或 'circular' 。預設為:'zeros'
形狀
輸入: ( N , C i n , D i n , H i n , W i n ) (N, C_{in}, D_{in}, H_{in}, W_{in}) ( N , C in , D in , H in , W in ) 或 ( C i n , D i n , H i n , W i n ) (C_{in}, D_{in}, H_{in}, W_{in}) ( C in , D in , H in , W in ) 。
輸出: ( N , C o u t , D o u t , H o u t , W o u t ) (N, C_{out}, D_{out}, H_{out}, W_{out}) ( N , C o u t , D o u t , H o u t , W o u t ) 或 ( C o u t , D o u t , H o u t , W o u t ) (C_{out}, D_{out}, H_{out}, W_{out}) ( C o u t , D o u t , H o u t , W o u t ) 。
D o u t = ⌊ D i n + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 stride [ 0 ] + 1 ⌋ D_{out} = \left\lfloor\frac{D_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor D o u t = ⌊ stride [ 0 ] D in + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 + 1 ⌋
H o u t = ⌊ H i n + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 stride [ 1 ] + 1 ⌋ H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor H o u t = ⌊ stride [ 1 ] H in + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 + 1 ⌋
W o u t = ⌊ W i n + 2 × padding [ 2 ] − dilation [ 2 ] × ( kernel_size [ 2 ] − 1 ) − 1 stride [ 2 ] + 1 ⌋ W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[2] - \text{dilation}[2] \times (\text{kernel\_size}[2] - 1) - 1}{\text{stride}[2]} + 1\right\rfloor W o u t = ⌊ stride [ 2 ] W in + 2 × padding [ 2 ] − dilation [ 2 ] × ( kernel_size [ 2 ] − 1 ) − 1 + 1 ⌋
變數
weight (Tensor )– 模組的可學習權重,形狀為 ( out_channels , in_channels groups , (\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, ( out_channels , groups in_channels , kernel_size[0] , kernel_size[1] , kernel_size[2] ) \text{kernel\_size[0]}, \text{kernel\_size[1]}, \text{kernel\_size[2]}) kernel_size[0] , kernel_size[1] , kernel_size[2] ) 。這些權重的取值從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 取樣而來。
bias (Tensor )– 模組的可學習偏置,形狀為 (out_channels)。如果 bias 為 True ,則這些權重的取值從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 取樣而來,其中 k = g r o u p s C in ∗ ∏ i = 0 2 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{2}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 2 kernel_size [ i ] g ro u p s
示例
>>> # With square kernels and equal stride
>>> m = nn . Conv3d ( 16 , 33 , 3 , stride = 2 )
>>> # non-square kernels and unequal stride and with padding
>>> m = nn . Conv3d ( 16 , 33 , ( 3 , 5 , 2 ), stride = ( 2 , 1 , 1 ), padding = ( 4 , 2 , 0 ))
>>> input = torch . randn ( 20 , 16 , 10 , 50 , 100 )
>>> output = m ( input )