全部标签
写点什么
开源架构OpenHarmony算法元宇宙学习方法Web3.0高效工作数据库Python音视频前端AI大数据团队管理程序员运维深度思考低代码redisgolang微服务架构flutter 查看更多

征程 6E/M｜如何解决量化部署时 mul 与 bool 类型数据交互的问题

作者：地平线开发者
  • 2025-06-10
    广东

  • 本文字数：8154 字

    阅读完需：约 27 分钟

征程 6E/M｜如何解决量化部署时 mul 与 bool 类型数据交互的问题

一、引言

使用 征程 6 工具链进行量化部署时，涉及 bool 类型数据计算时，会有一些与全 float 计算不同的情况，需要特别注意。


本文将重点结合 PyTorch 的 torch.mul（逐元素相乘）以及张量的 类型提升（Type Promotion） 规则，分析在 征程 6 工具链上 量化部署时 mul 与 bool 类型数据交互的问题。

二、bool 计算示例

在 PyTorch 中，bool 类型的数据用于表示 掩码（mask），常见的操作包括 torch.logical_not（）、比较运算符（如 ==）等。当 bool 类型数据与其他数据类型进行算术运算时，PyTorch 会遵循 类型提升（Type Promotion） 规则，将 bool 转换为更高精度的数值类型。例如：


import torchx = torch.tensor([1.0, 2.0, 3.0])y = torch.tensor([True, False, True])result = x * y  # 逐元素相乘print(result)  # tensor([1., 0., 3.])print(result.dtype)  # torch.float32
复制代码


在这个例子中，bool 类型的 y 在计算时被提升为 float32 类型，因此计算结果仍然是 float32。


torch.mul 官方文档里确实没明确说支持 bool 类型输入（官网链接），但 PyTorch 底层的张量操作支持 bool，是一种 隐式支持，官方文档默认大家了解 PyTorch 的 类型提升（type promotion）规则。

三、模型中 bool 量化问题分析

在量化模型中，当 bool 数据在计算过程中发生类型提升，特别是浮点数过了 quant，再进行比较，可能会出现很大的量化误差。代码示例如下：


class small_model(nn.Module):    def __init__(self):        super(small_model, self).__init__（）        self.quant = QuantStub（）        self.dequant = DeQuantStub（）            def forward（self， actors_input）:        actors_input = self.quant（actors_input）        print（"actors_input:"， actors_input）        # actors_mask = torch.logical_not（actors_input[:， :， :， -1] == 0）    # 一定程度上正确写法        actors_mask = actors_input[:， :， :， -1] == 1     # 错误写法，会导致 calib 指标崩掉        print（"actors_mask"， actors_mask）        print（"actors_mask shape:"， actors_mask.shape）        print（"actors_mask[:， :， :， None] shape:"， actors_mask[:， :， :， None]。shape）        actors_output = actors_input * actors_mask[:， :， :， None]        return self.dequant（actors_output）
model = small_model（）
## ================================================================## 生成随机数据# torch.manual_seed（41）# actors_data = torch.randn（1， 2， 4， 3）# actors_mask = torch.randint（0， 2， （1， 2， 4， 1）， dtype=torch.bool）# example_input = torch.cat（[actors_data， actors_mask]， dim=-1）example_input = torch.tensor（[[[[ 0.2465， -0.4717， 60.5，  1.0000]，          [-0.2124，  0.5660， -1.6637，  0.0000]，          [ 0.3338，  1.6051， -1.5088，  1.0000]，          [-0.9215， -0.5901，  1.4871，  0.0000]]，                   [[ 0.1650， -0.3785，  1.6710，  0.0000]，          [-0.3752，  0.2337，  0.4186，  0.0000]，          [-0.2221， -0.1745， -0.6064，  1.0000]，          [ 0.9174， -0.6317，  0.6133，  1.0000]]]]）print（"example_input:"， example_input）## ================================================================#output = model（example_input）print（"float output:"， output）
复制代码


使用 actors_mask = actors_data[:， :， :， -1] == 1 来生成布尔掩码。


example_input: tensor([[[[ 0.2465, -0.4717, 60.5,  1.0000],          [-0.2124,  0.5660, -1.6637,  0.0000],          [ 0.3338,  1.6051, -1.5088,  1.0000],          [-0.9215, -0.5901,  1.4871,  0.0000]],                   [[ 0.1650, -0.3785,  1.6710,  0.0000],          [-0.3752,  0.2337,  0.4186,  0.0000],          [-0.2221, -0.1745, -0.6064,  1.0000],          [ 0.9174, -0.6317,  0.6133,  1.0000]]]])actors_input: tensor([[[[ 0.2465, -0.4717, 60.5,  1.0000],          [-0.2124,  0.5660, -1.6637,  0.0000],          [ 0.3338,  1.6051, -1.5088,  1.0000],          [-0.9215, -0.5901,  1.4871,  0.0000]],                   [[ 0.1650, -0.3785,  1.6710,  0.0000],          [-0.3752,  0.2337,  0.4186,  0.0000],          [-0.2221, -0.1745, -0.6064,  1.0000],          [ 0.9174, -0.6317,  0.6133,  1.0000]]]])actors_mask tensor([[[ True, False,  True, False],         [False, False,  True,  True]]])actors_mask shape torch.Size([1, 2, 4])actors_mask[:, :, :, None] shape torch.Size([1, 2, 4, 1])float output: tensor([[[[ 0.2465, -0.4717, 60.5,  1.0000],          [-0.0000,  0.0000, -0.0000,  0.0000],          [ 0.3338,  1.6051, -1.5088,  1.0000],          [-0.0000, -0.0000,  0.0000,  0.0000]],                   [[ 0.0000, -0.0000,  0.0000,  0.0000],          [-0.0000,  0.0000,  0.0000,  0.0000],          [-0.2221, -0.1745, -0.6064,  1.0000],          [ 0.9174, -0.6317,  0.6133,  1.0000]]]])
复制代码


打印的结果如上，可以看到，float 输出没有任何问题。


然而，在 量化模型 中，这种 bool mask 运算会由于微小的量化误差发生非常大的变化，原因在：


actors_data = self.quant(actors_data)actors_mask = actors_data[:, :, :, -1] == 1
复制代码


数值 1 经过量化反量化后，可能会产生一个或多个 scale 的误差，原本是 1 的位置就不再是 1 了，会变成 0.9x 或 1.0x，这样就==1 就不再是 True 了。



打印看到 actors_mask 全部均为 False。


=========set_fake_quantize(calib_model, FakeQuantState.VALIDATION)=========actors_input: QTensor(  data = tensor([[[[ 0.2474, -0.4708, 60.4991,  1.0007],          [-0.2123,  0.5668, -1.6636,  0.0000],          [ 0.3342,  1.6045, -1.5085,  1.0007],          [-0.9213, -0.5908,  1.4863,  0.0000]],                   [[ 0.1643, -0.3785,  1.6709,  0.0000],          [-0.3748,  0.2345,  0.4191,  0.0000],          [-0.2216, -0.1754, -0.6056,  1.0007],          [ 0.9176, -0.6314,  0.6130,  1.0007]]]]),  scale = tensor([0.0018]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)actors_mask tensor([[[False, False, False, False],         [False, False, False, False]]])actors_mask shape： torch.Size([1, 2, 4])actors_mask[:, :, :, None] shape： torch.Size([1, 2, 4, 1])calib_model out: tensor([[[[0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.]],                   [[0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.]]]])
复制代码


这种结果明显是不符合预期的。

四、bool 量化问题解决

怎么修改呢？如下所示


        actors_mask = torch.logical_not(actors_data[:, :, :, -1] == 0)    # 一定程度上正确写法        # actors_mask = actors_data[:, :, :, -1] == 1     # 错误写法，会导致calib指标崩掉
复制代码


0 经过对称量化，依旧是 0，再经过 logical_not 即可。此时输出变为：结果是正确的。


=========set_fake_quantize(calib_model, FakeQuantState.VALIDATION)=========actors_input: QTensor(  data = tensor([[[[ 0.2474, -0.4708, 60.4991,  1.0007],          [-0.2123,  0.5668, -1.6636,  0.0000],          [ 0.3342,  1.6045, -1.5085,  1.0007],          [-0.9213, -0.5908,  1.4863,  0.0000]],                   [[ 0.1643, -0.3785,  1.6709,  0.0000],          [-0.3748,  0.2345,  0.4191,  0.0000],          [-0.2216, -0.1754, -0.6056,  1.0007],          [ 0.9176, -0.6314,  0.6130,  1.0007]]]]),  scale = tensor([0.0018]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)actors_mask tensor([[[ True, False,  True, False],         [False, False,  True,  True]]])actors_mask shape: torch.Size([1, 2, 4])actors_mask[:, :, :, None] shape: torch.Size([1, 2, 4, 1])calib_model out: tensor([[[[ 0.2474, -0.4708, 60.4991,  1.0007],          [ 0.0000,  0.0000,  0.0000,  0.0000],          [ 0.3342,  1.6045, -1.5085,  1.0007],          [ 0.0000,  0.0000,  0.0000,  0.0000]],                   [[ 0.0000,  0.0000,  0.0000,  0.0000],          [ 0.0000,  0.0000,  0.0000,  0.0000],          [-0.2216, -0.1754, -0.6056,  1.0007],          [ 0.9176, -0.6314,  0.6130,  1.0007]]]])
复制代码


这种方案一定正确吗？答案：不一定是正确的，需要考虑极值问题。另外，由于 mul 不支持输入为 bool 类型，这儿还会出现 cpu 算子问题。



生成的 quantized.onnx 可以看到，确实 mul 运行在 cpu 上。


4.1 CPU 算子问题

主要原因是：右侧工具自动进行：bool->float32



第一个思路是：直接将 actors_mask 转 torch.int16，


actors_mask = torch.logical_not(actors_input[:, :, :, -1] == 0).to(torch.int16)
复制代码


这样是不行的。因为过了 quant 的 actors_input 是 Qtensor，而。to（torch.int16）强转的 actors_mask 是常规 torch tensor，这也是不行的。


接着就可以想到，应该转 float，然后过 quant，修改如下：


        actors_mask = torch.logical_not(actors_input[:, :, :, -1] == 0).to(torch.float)    # 一定程度上正确写法        actors_mask = self.quant_mask(actors_mask)
复制代码


此时 mul 左右两边都是 qtensor，打印信息如下：


=========set_fake_quantize(calib_model, FakeQuantState.VALIDATION)=========actors_input: QTensor(  data = tensor([[[[ 0.2474, -0.4708, 60.4991,  1.0007],          [-0.2123,  0.5668, -1.6636,  0.0000],          [ 0.3342,  1.6045, -1.5085,  1.0007],          [-0.9213, -0.5908,  1.4863,  0.0000]],                   [[ 0.1643, -0.3785,  1.6709,  0.0000],          [-0.3748,  0.2345,  0.4191,  0.0000],          [-0.2216, -0.1754, -0.6056,  1.0007],          [ 0.9176, -0.6314,  0.6130,  1.0007]]]]),  scale = tensor([0.0018]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)actors_mask QTensor(  data = tensor([[[1.0000, 0.0000, 1.0000, 0.0000],         [0.0000, 0.0000, 1.0000, 1.0000]]]),  scale = tensor([3.0518e-05]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)actors_mask shape: (1, 2, 4)actors_mask[:, :, :, None] shape: (1, 2, 4, 1)calib_model out: tensor([[[[ 0.2474, -0.4708, 60.4972,  1.0007],          [ 0.0000,  0.0000,  0.0000,  0.0000],          [ 0.3342,  1.6045, -1.5085,  1.0007],          [ 0.0000,  0.0000,  0.0000,  0.0000]],                   [[ 0.0000,  0.0000,  0.0000,  0.0000],          [ 0.0000,  0.0000,  0.0000,  0.0000],          [-0.2216, -0.1754, -0.6056,  1.0007],          [ 0.9176, -0.6314,  0.6130,  1.0007]]]])
复制代码


可以看到，是全一段 BPU。



在不考虑极值的影响下，改动完成，此时代码如下：


class small_model(nn.Module):    def __init__(self):        super(small_model, self).__init__()        self.quant = QuantStub()        self.dequant = DeQuantStub()        self.quant_mask = QuantStub()            def forward(self, actors_input):        actors_input = self.quant(actors_input)        actors_mask = torch.logical_not(actors_input[:, :, :, -1] == 0).to（torch.float）    # 一定程度上正确写法        actors_mask = self.quant_mask（actors_mask）        actors_output = actors_input * actors_mask[:， :， :， None]  # + - * /        return self.dequant（actors_output）        model = small_model（）
## ================================================================## 生成随机数据# torch.manual_seed（41）# actors_data = torch.randn（1， 2， 4， 3）# actors_mask = torch.randint（0， 2， （1， 2， 4， 1）， dtype=torch.bool）# example_input = torch.cat（[actors_data， actors_mask]， dim=-1）example_input = torch.tensor（[[[[ 0.2465， -0.4717， 60.5，  1.0000]，          [-0.2124，  0.5660， -1.6637，  0.0000]，          [ 0.3338，  1.6051， -1.5088，  1.0000]，          [-0.9215， -0.5901，  1.4871，  0.0000]]，                   [[ 0.1650， -0.3785，  1.6710，  0.0000]，          [-0.3752，  0.2337，  0.4186，  0.0000]，          [-0.2221， -0.1745， -0.6064，  1.0000]，          [ 0.9174， -0.6317，  0.6133，  1.0000]]]]）print（"example_input:"， example_input）## ================================================================#output = model（example_input）print（"float output:"， output）
复制代码

4.2 极值问题

  • bool 被其他极大值 影响


如果模型输入 actors_input 有极大值存在，例如 70000，int16 量化，会将 actors_mask 原本是 1 的地方给变为 0，量化输出示例如下：


=========set_fake_quantize(calib_model, FakeQuantState.VALIDATION)=========actors_input: QTensor(  data = tensor([[[[ 0.0000e+00,  0.0000e+00,  6.9999e+04,  0.0000e+00],          [ 0.0000e+00,  0.0000e+00, -2.1363e+00,  0.0000e+00],          [ 0.0000e+00,  2.1363e+00, -2.1363e+00,  0.0000e+00],          [ 0.0000e+00,  0.0000e+00,  2.1363e+00,  0.0000e+00]],                   [[ 0.0000e+00,  0.0000e+00,  2.1363e+00,  0.0000e+00],          [ 0.0000e+00,  0.0000e+00,  0.0000e+00,  0.0000e+00],          [ 0.0000e+00,  0.0000e+00,  0.0000e+00,  0.0000e+00],          [ 0.0000e+00,  0.0000e+00,  0.0000e+00,  0.0000e+00]]]]),  scale = tensor([2.1363]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)actors_mask QTensor(  data = tensor([[[0., 0., 0., 0.],         [0., 0., 0., 0.]]]),  scale = tensor([3.0518e-05]),  zero_point = tensor([0]),  dtype = qint16,  per_channel_axis = -1,  is_quantized = False)calib_model out: tensor([[[[0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.]],                   [[0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.],          [0., 0., 0., 0.]]]])
复制代码


根据量化公式：


quantized=clamp(round(float/scale),qmin,qmax)
复制代码


float：浮点数 数据，即 fp32（32-bit 浮点数）表示的张量值。


scale：缩放因子（scale factor），用于将浮点数缩放到整数范围（量化尺度）。


round（float/scale）：对缩放后的值进行四舍五入，得到量化的整数表示。


clamp（…， qmin， qmax）：将量化值限制在 最小值 qmin 和 最大值 qmax 之间，防止溢出。


在这个示例中，scale = 70000/32767 = 2.1263。bool 类型的 1，经过量化：round（1 / 2.1263）=0，由于 round 舍入误差的存在，原来的 1 也被变为了 0，再经过反量化也拯救不了这个舍入误差了。


  • bool 1 作为 极大值 的影响


如果模型输入 actors_data 都是非常小的数值，由于 bool 类型 1 的存在，会导致 1 成为极大值，影响量化 scale 的统计，继而影响其他数值的量化精细程度。


所以，最稳妥的方式，是将 actor_data 与 actor_mask 分开送入模型。actor_data 自己过 quant，actor_mask 自己过 quant_mask。

4.3 解决方案示例

  • bool 类型已经变 为 0/1 的 float，可以这么写。需要注意，一定是只有 0 / 1 的 float，在模型中间也可以这么写。


class small_model(nn.Module):    def __init__(self):        super(small_model, self).__init__（）        self.quant = QuantStub（）        self.quant_mask = QuantStub（）        self.dequant = DeQuantStub（）            def forward（self， actors_input）:        actors_mask = actors_input[:， :， :， -1]        actors_mask = self.quant_mask（actors_mask）  # 这种写法会导致模型输入位置有两个量化节点，且 scale 不同而删不掉， 未来用 vpu 可以这么写
        actors_data = actors_input[:，:，:，:-1]        actors_data = self.quant（actors_data）       # 这种写法会导致模型输入位置有两个量化节点，且 scale 不同而删不掉， 未来用 vpu 可以这么写        print（"actors_data:"， actors_data）        print（"actors_mask"， actors_mask）        actors_output = actors_data * actors_mask[:， :， :， None]  # + - * /        return self.dequant（actors_output）
model = small_model（）
## ================================================================## 生成随机数据# torch.manual_seed（41）# actors_data = torch.randn（1， 2， 4， 3）# actors_mask = torch.randint（0， 2， （1， 2， 4， 1）， dtype=torch.bool）# example_input = torch.cat（[actors_data， actors_mask]， dim=-1）example_input = torch.tensor（[[[[ 0.2465， -0.4717， 70000，  1.0000]，          [-0.2124，  0.5660， -1.6637，  0.0000]，          [ 0.3338，  1.6051， -1.5088，  1.0000]，          [-0.9215， -0.5901，  1.4871，  0.0000]]，                   [[ 0.1650， -0.3785，  1.6710，  0.0000]，          [-0.3752，  0.2337，  0.4186，  0.0000]，          [-0.2221， -0.1745， -0.6064，  1.0000]，          [ 0.9174， -0.6317，  0.6133，  1.0000]]]]）print（"example_input:"， example_input）output = model（example_input）print（"float output:"， output）
复制代码



  • 如果是模型首部，且确实是 bool 输入


class small_model(nn.Module):    def __init__(self):        super(small_model, self).__init__（）        self.quant = QuantStub（）        self.quant_mask = QuantStub（）        self.dequant = DeQuantStub（）            def forward（self， actors_input）:        actors_mask = actors_input["actors_mask"]        actors_data = self.quant（actors_input["actors_data"]）        print（"actors_data:"， actors_data）        print（"actors_mask"， actors_mask）        actors_output = actors_data * self.quant_mask（actors_mask.to（torch.float）） # + - * /        return self.dequant（actors_output）        # 生成随机数据torch.manual_seed（41）actors_data = torch.randn（1， 2， 4， 3）actors_mask = torch.randint（0， 2， （1， 2， 4， 1）， dtype=torch.bool）example_input = {"actors_data":actors_data， "actors_mask":actors_mask}print（"example_input:"， example_input）output = model（example_input）print（"float output:"， output）
复制代码



划线
评论
复制
发布于: 刚刚阅读数: 5
自动驾驶；算法工具链地平线征程6
用户头像

地平线开发者

关注

还未添加个人签名 2021-03-11 加入

还未添加个人简介

评论

发布
暂无评论
Copyright © 2025, Geekbang Technology Ltd. All rights reserved. 极客邦控股（北京）有限公司 | 京 ICP 备 16027448 号 - 5京公网安备京公网安备 11010502039052号 | 产品资质
征程 6E/M｜如何解决量化部署时 mul 与 bool 类型数据交互的问题_自动驾驶；_地平线开发者_InfoQ写作社区