NNIE-lite
NNIE-lite copied to clipboard
关于yolov5的移植问题
我在作者的基础上修改一些代码,移植好了yolov5,但目前有些问题没搞明白: 用high-precision量化的wk跑起来仍然有一些精度损失,主要表现为confidence略有下降,对于本身得分就不高的目标容易发生漏检,请问这个现象是合理吗?还是说哪里弄得有问题,现在我也在检查很久了,没发现问题。
ps:(最好的办法是每一层打印输出和torch模型对比,但可能我太菜了。。觉得这个工作量有点难受)
量化会产生一定的精度损失,所以模型选择的时候不光要考虑 precision&recall,还有考虑权重范围分布和推理平台最匹配的模型