Python PyTorch Conv2d用法及代碼示例

本文簡要介紹python語言中 torch.nn.Conv2d 的用法。

用法:

class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None)

參數：

• in_channels(int) -輸入圖像中的通道數

• out_channels(int) -卷積產生的通道數

• kernel_size(int或者tuple) -卷積核的大小

• stride(int或者tuple,可選的) -卷積的步幅。默認值：1

• padding(int,tuple或者str,可選的) -填充添加到輸入的所有四個側麵。默認值：0

• padding_mode(string,可選的) -'zeros' 、 'reflect' 、 'replicate' 或 'circular' 。默認值：'zeros'

• dilation(int或者tuple,可選的) -內核元素之間的間距。默認值：1

• groups(int,可選的) -從輸入通道到輸出通道的阻塞連接數。默認值：1

• bias(bool,可選的) -如果 True ，則向輸出添加可學習的偏差。默認值：True

變量：

• ~Conv2d.weight(Tensor) -形狀模塊的可學習權重(\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, \text{kernel\_size[0]}, \text{kernel\_size[1]}).這些權重的值是從\mathcal{U}(-\sqrt{k}, \sqrt{k})其中k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

• ~Conv2d.bias(Tensor) -形狀模塊的可學習偏差(out_channels)。如果 bias 是 True ，則這些權重的值是從 \mathcal{U}(-\sqrt{k}, \sqrt{k}) 中采樣的，其中 k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

在由多個輸入平麵組成的輸入信號上應用 2D 卷積。

在最簡單的情況下，輸入大小為(N, C_{\text{in}}, H, W)和輸出(N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}})的層的輸出值可以精確地說明為：

\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)

其中 \star 是有效的 2D cross-correlation 運算符，N 是批量大小，C 表示通道數，H 是以像素為單位的輸入平麵的高度，W 是以像素為單位的寬度.

該模塊支持 TensorFloat32。

• stride 控製互相關、單個數字或元組的步幅。

• padding 控製應用於輸入的填充量。它可以是字符串 {‘valid’, ‘same’} 或整數元組，給出兩側應用的隱式填充量。

• dilation控製內核點之間的間距；也稱為 à trous 算法。很難說明，但是這個link 很好地可視化了dilation 的作用。

• groups 控製輸入和輸出之間的連接。 in_channels 和 out_channels 都必須能被 groups 整除。例如，

  • 在 groups=1 時，所有輸入都卷積到所有輸出。

  • 在 groups=2 時，該操作等效於並排有兩個卷積層，每個卷積層看到一半的輸入通道並產生一半的輸出通道，並且隨後將兩者連接起來。

  • 在 groups= in_channels ，每個輸入通道都與自己的一組過濾器(大小為 \frac{\text{out\_channels}}{\text{in\_channels}} )進行卷積。

參數 kernel_size 、 stride 、 padding 、 dilation 可以是：

• 單個 int - 在這種情況下，高度和寬度尺寸使用相同的值

• 兩個整數的 tuple - 在這種情況下，第一個 int 用於高度維度，第二個 int 用於寬度維度

注意

當 groups == in_channels 和 out_channels == K * in_channels 時，其中 K 是正整數，此操作也稱為 “depthwise convolution”。

換句話說，對於大小為 (N, C_{in}, L_{in}) 的輸入，可以使用參數 (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) 執行具有深度乘數 K 的深度卷積。

注意

在某些情況下，當在 CUDA 設備上給定張量並使用 CuDNN 時，此運算符可能會選擇非確定性算法來提高性能。如果這是不可取的，您可以嘗試通過設置 torch.backends.cudnn.deterministic = True 來使操作具有確定性(可能以性能為代價)。有關詳細信息，請參閱重現性。

注意

padding='valid' 與無填充相同。 padding='same' 填充輸入，使輸出具有作為輸入的形狀。但是，此模式不支持 1 以外的任何步幅值。

形狀：

• 輸入：(N, C_{in}, H_{in}, W_{in})

• 輸出：(N, C_{out}, H_{out}, W_{out})

  H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor
  W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor

例子

>>> # With square kernels and equal stride
>>> m = nn.Conv2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2), dilation=(3, 1))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)