Python PyTorch convert用法及代碼示例

本文簡要介紹python語言中 torch.quantization.convert 的用法。

用法:

torch.quantization.convert(module, mapping=None, inplace=False, remove_qconfig=True, convert_custom_config_dict=None)

參數：

• module-準備和校準的模塊

• mapping-從源模塊類型映射到目標模塊類型的字典，可以被覆蓋以允許交換用戶定義的模塊

• inplace-就地進行模型轉換，原始模塊發生突變

• convert_custom_config_dict-轉換函數的自定義配置字典

通過在目標模塊類上調用from_float方法，根據mapping將輸入模塊中的子模塊轉換為不同的模塊。如果 remove_qconfig 設置為 True，則在最後刪除 qconfig。

# Example of convert_custom_config_dict:
convert_custom_config_dict = {
    # user will manually define the corresponding quantized
    # module class which has a from_observed class method that converts
    # observed custom module to quantized custom module
    "observed_to_quantized_custom_module_class": {
        ObservedCustomModule: QuantizedCustomModule
    }
}