Python PyTorch Conv2d用法及代码示例

本文简要介绍python语言中 torch.nn.Conv2d 的用法。

用法:

class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None)

参数：

• in_channels(int) -输入图像中的通道数

• out_channels(int) -卷积产生的通道数

• kernel_size(int或者tuple) -卷积核的大小

• stride(int或者tuple,可选的) -卷积的步幅。默认值：1

• padding(int,tuple或者str,可选的) -填充添加到输入的所有四个侧面。默认值：0

• padding_mode(string,可选的) -'zeros' 、 'reflect' 、 'replicate' 或 'circular' 。默认值：'zeros'

• dilation(int或者tuple,可选的) -内核元素之间的间距。默认值：1

• groups(int,可选的) -从输入通道到输出通道的阻塞连接数。默认值：1

• bias(bool,可选的) -如果 True ，则向输出添加可学习的偏差。默认值：True

变量：

• ~Conv2d.weight(Tensor) -形状模块的可学习权重(\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, \text{kernel\_size[0]}, \text{kernel\_size[1]}).这些权重的值是从\mathcal{U}(-\sqrt{k}, \sqrt{k})其中k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

• ~Conv2d.bias(Tensor) -形状模块的可学习偏差(out_channels)。如果 bias 是 True ，则这些权重的值是从 \mathcal{U}(-\sqrt{k}, \sqrt{k}) 中采样的，其中 k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

在由多个输入平面组成的输入信号上应用 2D 卷积。

在最简单的情况下，输入大小为(N, C_{\text{in}}, H, W)和输出(N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}})的层的输出值可以精确地说明为：

\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)

其中 \star 是有效的 2D cross-correlation 运算符，N 是批量大小，C 表示通道数，H 是以像素为单位的输入平面的高度，W 是以像素为单位的宽度.

该模块支持 TensorFloat32。

• stride 控制互相关、单个数字或元组的步幅。

• padding 控制应用于输入的填充量。它可以是字符串 {‘valid’, ‘same’} 或整数元组，给出两侧应用的隐式填充量。

• dilation控制内核点之间的间距；也称为 à trous 算法。很难说明，但是这个link 很好地可视化了dilation 的作用。

• groups 控制输入和输出之间的连接。 in_channels 和 out_channels 都必须能被 groups 整除。例如，

  • 在 groups=1 时，所有输入都卷积到所有输出。

  • 在 groups=2 时，该操作等效于并排有两个卷积层，每个卷积层看到一半的输入通道并产生一半的输出通道，并且随后将两者连接起来。

  • 在 groups= in_channels ，每个输入通道都与自己的一组过滤器(大小为 \frac{\text{out\_channels}}{\text{in\_channels}} )进行卷积。

参数 kernel_size 、 stride 、 padding 、 dilation 可以是：

• 单个 int - 在这种情况下，高度和宽度尺寸使用相同的值

• 两个整数的 tuple - 在这种情况下，第一个 int 用于高度维度，第二个 int 用于宽度维度

注意

当 groups == in_channels 和 out_channels == K * in_channels 时，其中 K 是正整数，此操作也称为 “depthwise convolution”。

换句话说，对于大小为 (N, C_{in}, L_{in}) 的输入，可以使用参数 (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) 执行具有深度乘数 K 的深度卷积。

注意

在某些情况下，当在 CUDA 设备上给定张量并使用 CuDNN 时，此运算符可能会选择非确定性算法来提高性能。如果这是不可取的，您可以尝试通过设置 torch.backends.cudnn.deterministic = True 来使操作具有确定性(可能以性能为代价)。有关详细信息，请参阅重现性。

注意

padding='valid' 与无填充相同。 padding='same' 填充输入，使输出具有作为输入的形状。但是，此模式不支持 1 以外的任何步幅值。

形状：

• 输入：(N, C_{in}, H_{in}, W_{in})

• 输出：(N, C_{out}, H_{out}, W_{out})

  H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor
  W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor

例子

>>> # With square kernels and equal stride
>>> m = nn.Conv2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2), dilation=(3, 1))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)