Python PyTorch fake_quantize_per_tensor_affine用法及代碼示例

本文簡要介紹python語言中 torch.fake_quantize_per_tensor_affine 的用法。

用法:

torch.fake_quantize_per_tensor_affine(input, scale, zero_point, quant_min, quant_max) → Tensor

參數：

• input(Tensor) -torch.float32 中的輸入值。

• scale(雙倍的或者Tensor) -量化尺度

• zero_point(整數64或者Tensor) -量化zero_point

• quant_min(整數64) -量化域的下界

• quant_max(整數64) -量化域的上限

返回：

一個新的fake_quantized張量

返回類型：

Tensor

返回使用 scale 、 zero_point 、 quant_min 和 quant_max 量化的 input fake 中的數據的新張量。

\text{output} = min( \text{quant\_max}, max( \text{quant\_min}, \text{std::nearby\_int}(\text{input} / \text{scale}) + \text{zero\_point} ) )

例子：

>>> x = torch.randn(4)
>>> x
tensor([ 0.0552,  0.9730,  0.3973, -1.0780])
>>> torch.fake_quantize_per_tensor_affine(x, 0.1, 0, 0, 255)
tensor([0.1000, 1.0000, 0.4000, 0.0000])
>>> torch.fake_quantize_per_tensor_affine(x, torch.tensor(0.1), torch.tensor(0), 0, 255)
tensor([0.6000, 0.4000, 0.0000, 0.0000])