Python PyTorch convert用法及代码示例

本文简要介绍python语言中 torch.quantization.convert 的用法。

用法:

torch.quantization.convert(module, mapping=None, inplace=False, remove_qconfig=True, convert_custom_config_dict=None)

参数：

• module-准备和校准的模块

• mapping-从源模块类型映射到目标模块类型的字典，可以被覆盖以允许交换用户定义的模块

• inplace-就地进行模型转换，原始模块发生突变

• convert_custom_config_dict-转换函数的自定义配置字典

通过在目标模块类上调用from_float方法，根据mapping将输入模块中的子模块转换为不同的模块。如果 remove_qconfig 设置为 True，则在最后删除 qconfig。

# Example of convert_custom_config_dict:
convert_custom_config_dict = {
    # user will manually define the corresponding quantized
    # module class which has a from_observed class method that converts
    # observed custom module to quantized custom module
    "observed_to_quantized_custom_module_class": {
        ObservedCustomModule: QuantizedCustomModule
    }
}