PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard

模型量化以后 精度直接没了

Open ljl86092297 opened this issue 2 years ago • 1 comments

谷歌关键点模型经过离线量化后 image 经过上图函数量化以后精度直接消失了 image 上图是未量化前的模型效果 image 这是量化后的效果,-1代表骨骼点未检测到

ljl86092297 avatar Jun 06 '22 10:06 ljl86092297

这里有一个tinypose的PR:https://github.com/PaddlePaddle/PaddleSlim/pull/1179 还在review中。 之前我们对tinypose做全量化,精度损失较大,但可视化效果还可以接受。

wanghaoshuang avatar Jun 24 '22 12:06 wanghaoshuang