当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python torch.nn.InstanceNorm3d用法及代码示例


用法:

class torch.nn.InstanceNorm3d(num_features, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False, device=None, dtype=None)

参数

  • num_features- 来自大小为 的预期输入

  • eps-加到分母上的值,以保证数值稳定性。默认值:1e-5

  • momentum-用于 running_mean 和 running_var 计算的值。默认值:0.1

  • affine-一个布尔值,当设置为 True 时,此模块具有可学习的仿射参数,其初始化方式与批量标准化相同。默认值:False

  • track_running_stats-一个布尔值,当设置为 True 时,此模块跟踪运行均值和方差,当设置为 False 时,此模块不跟踪此类统计信息,并且始终在训练和评估模式下使用批处理统计信息。默认值:False

如论文中所述,在 5D 输入(具有附加通道维度的小批量 3D 输入)上应用实例归一化实例规范化:快速风格化的缺失成分.

均值和标准差是针对小批量中的每个对象分别计算每个维度的。 是大小为 C(其中 C 是输入大小)的可学习参数向量,如果 affineTrue 。标准差是通过偏置估计器计算的,相当于 torch.var(input, unbiased=False)

默认情况下,该层使用从训练和评估模式中的输入数据计算的实例统计信息。

如果 track_running_stats 设置为 True ,则在训练期间,该层会继续对其计算的均值和方差进行估计,然后在评估期间将其用于归一化。运行估计保持默认 momentum 为 0.1。

注意

这个momentum 参数不同于优化器类中使用的参数和传统的动量概念。在数学上,这里运行统计的更新规则是 ,其中 是估计的统计量,而 是新的观察值。

注意

InstanceNorm3d LayerNorm 非常相似,但有一些细微差别。 InstanceNorm3d 应用于通道数据的每个通道,例如具有 RGB 颜色的 3D 模型,但 LayerNorm 通常应用于整个样本,并且通常用于 NLP 任务。此外, LayerNorm 应用逐元素仿射变换,而 InstanceNorm3d 通常不应用仿射变换。

形状:
  • 输入:

  • 输出: (与输入的形状相同)

例子:

>>> # Without Learnable Parameters
>>> m = nn.InstanceNorm3d(100)
>>> # With Learnable Parameters
>>> m = nn.InstanceNorm3d(100, affine=True)
>>> input = torch.randn(20, 100, 35, 45, 10)
>>> output = m(input)

相关用法


注:本文由纯净天空筛选整理自pytorch.org大神的英文原创作品 torch.nn.InstanceNorm3d。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。