当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python PyTorch fuse_modules用法及代码示例


本文简要介绍python语言中 torch.quantization.fuse_modules 的用法。

用法:

torch.quantization.fuse_modules(model, modules_to_fuse, inplace=False, fuser_func=<function fuse_known_modules>, fuse_custom_config_dict=None)

参数

  • model-包含要融合的模块的模型

  • modules_to_fuse-要融合的模块名称列表。如果只有一个模块列表要融合,也可以是字符串列表。

  • inplace-bool 指定模型上是否发生融合,默认情况下返回一个新模型

  • fuser_func-接收模块列表并输出相同长度的融合模块列表的函数。例如,fuser_func([convModule, BNModule]) 返回列表 [ConvBNModule, nn.Identity()] 默认为 torch.quantization.fuse_known_modules

  • fuse_custom_config_dict-用于融合的自定义配置

返回

带有融合模块的模型。如果inplace=True,则创建一个新副本。

将模块列表融合为单个模块

仅融合以下模块序列:conv、bn conv、bn、relu conv、relu linear、relu bn、relu 所有其他序列保持不变。对于这些序列,将列表中的第一项替换为融合模块,将其余模块替换为标识。

# Example of fuse_custom_config_dict
fuse_custom_config_dict = {
    # Additional fuser_method mapping
    "additional_fuser_method_mapping": {
        (torch.nn.Conv2d, torch.nn.BatchNorm2d): fuse_conv_bn
    },
}

例子:

>>> m = myModel()
>>> # m is a module containing  the sub-modules below
>>> modules_to_fuse = [ ['conv1', 'bn1', 'relu1'], ['submodule.conv', 'submodule.relu']]
>>> fused_m = torch.ao.quantization.fuse_modules(m, modules_to_fuse)
>>> output = fused_m(input)

>>> m = myModel()
>>> # Alternately provide a single list of modules to fuse
>>> modules_to_fuse = ['conv1', 'bn1', 'relu1']
>>> fused_m = torch.ao.quantization.fuse_modules(m, modules_to_fuse)
>>> output = fused_m(input)

相关用法


注:本文由纯净天空筛选整理自pytorch.org大神的英文原创作品 torch.quantization.fuse_modules。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。