bai-0829

yolov8转rknn模型时混合量化失败，甚至效果更差

1

pt模型转onnx模型后，再转RKNN模型时量化精度分析，发现如下图1某些输出层精度太低，然后进行了混合量化，将这些层转为float16 ，再次量化精度分析如下图2显示精度提升，但是生成rk模型后上板推理发现还不如之前全部量化效果好，请问这是为什么呢？  

数据集

1

可以提供一个新的数据集链接吗，已经失效了

自己训练的时候，需要yaml文件，也就是说自己重新训练的模型是有"类别"的？官方提供的预训练模型难道也是有"类别"的吗？

yolov8自训练模型map99.8%，转rknn后精度损失巨大，即使做了混合量化，板端测试依然几乎无法使用

6

自己训练的v8模型map99.8%，转换为rknn模型后在板子上测试，几乎无法识别出任何一个目标，又根据教程做混合量化，量化层数非常多，但是模型精度依然很差，可能一个目标会有七八个检测框同时出现；然后只量化了损失最高的onnx::ReduceSum_346和onnx::ReduceSum_326两层，效果有所改善，但是准确率依然不足50%