ppq icon indicating copy to clipboard operation
ppq copied to clipboard

自定义量化配置的几个问题

Open YueYiHuan opened this issue 1 year ago • 2 comments

您好,我想问下如果对于像Resnet这种有残差网络的模型,其中add和concat的输入的两层卷积层在量化后scale可能不一致,但我的硬件推理定点模型实现时对于add和concat并不能添加反量化操作,就会出现定点模型执行add或concat之后相对于float模型差异非常大的问题,请问PPO可以指定add和concat前的卷积scale为固定值吗?然后通过qat来降低误差?

YueYiHuan avatar Oct 24 '23 08:10 YueYiHuan