Python tf.raw_ops.QuantizedMatMulWithBias用法及代码示例

执行 a 与带有偏差的矩阵 b 的量化矩阵乘法

用法

tf.raw_ops.QuantizedMatMulWithBias(
    a, b, bias, min_a, max_a, min_b, max_b, Toutput=tf.dtypes.qint32,
    transpose_a=False, transpose_b=False, input_quant_mode='MIN_FIRST',
    name=None
)

添加。

输入必须是二维矩阵和一维偏置向量。并且a的内部维度(如果transpose_a非零则转置后)必须匹配b的外部维度(如果transposed_b非零则转置后)。然后对矩阵乘法结果使用偏差值进行广播加法运算。偏差大小必须与 b 的内部尺寸相匹配。

参数：a:ATensor.必须是以下类型之一：qint8,quint8,qint32,qint16,quint16.要相乘的矩阵。必须是类型的二维张量quint8. b:ATensor.必须是以下类型之一：qint8,quint8,qint32,qint16,quint16.要相乘的矩阵，必须是类型的二维张量qint8.偏差：ATensor.必须是以下类型之一：float32,qint32.尺寸匹配内部尺寸的一维偏置张量b(转置后如果transposed_b是非零)。 min_a:ATensor类型float32.最低量化的浮点值a值代表。 max_a:ATensor类型float32.最高量化的浮点值a值代表。 min_b:ATensor类型float32.最低量化的浮点值b值代表。 max_b:ATensor类型float32.最高量化的浮点值b值代表。 T输出：可选tf.dtypes.DType从：tf.qint8, tf.quint8, tf.qint32, tf.qint16, tf.quint16.默认为tf.qint32. transpose_a：可选bool.默认为False.如果是真的，a在乘法之前转置。 transpose_b：可选bool.默认为False.如果是真的，b在乘法之前转置。 input_quant_mode：可选string从："MIN_FIRST", "SCALED".默认为"MIN_FIRST".输入数据量化模式。 MIN_FIRST(默认)或 SCALED。 name：操作的名称(可选)。

返回：Tensor 对象的元组(输出，min_out，max_out)。

out:A `Tensor` of type `Toutput`.
min_out:A `Tensor` of type `float32`.
max_out:A `Tensor` of type `float32`.