Python PyTorch Linear用法及代码示例

本文简要介绍python语言中 torch.nn.Linear 的用法。

用法:

class torch.nn.Linear(in_features, out_features, bias=True, device=None, dtype=None)

参数：

• in_features-每个输入样本的大小

• out_features-每个输出样本的大小

• bias-如果设置为 False ，该层将不会学习附加偏差。默认值：True

变量：

• ~Linear.weight(torch.Tensor) -形状为 (\text{out\_features}, \text{in\_features}) 的模块的可学习权重。这些值从 \mathcal{U}(-\sqrt{k}, \sqrt{k}) 初始化，其中 k = \frac{1}{\text{in\_features}}

• ~Linear.bias-形状为 (\text{out\_features}) 的模块的可学习偏差。如果 bias 是 True ，则值从 \mathcal{U}(-\sqrt{k}, \sqrt{k}) 初始化，其中 k = \frac{1}{\text{in\_features}}

对传入数据应用线性变换：y = xA^T + b

该模块支持 TensorFloat32。

形状：

• 输入：(*, H_{in}) 其中 * 表示任意数量的维度，包括 none 和 H_{in} = \text{in\_features} 。

• 输出：(*, H_{out})，其中除了最后一个维度之外的所有维度都与输入和 H_{out} = \text{out\_features} 的形状相同。

例子：

>>> m = nn.Linear(20, 30)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 30])