rknn-toolkit2 icon indicating copy to clipboard operation
rknn-toolkit2 copied to clipboard

rk3588上yolov8板端推理结果错误!

Open wyjj opened this issue 2 years ago • 8 comments

YOLOV8在PC上仿真结果正确,在板端推理结果全部为0,这个怎么解决?是librknnrt.so库的问题吗?

wyjj avatar Aug 06 '23 11:08 wyjj

我之前也遇到這個問題,這是量化過程出錯了

laitathei avatar Aug 07 '23 11:08 laitathei

你可以跟我這個repo試一下https://github.com/laitathei/YOLOv8-ONNX-RKNN-Segmentation

laitathei avatar Aug 07 '23 11:08 laitathei

我之前也遇到這個問題,這是量化過程出錯了

我把量化设置成False了,还是不行

wyjj avatar Aug 07 '23 11:08 wyjj

你試試混合量化

laitathei avatar Aug 07 '23 12:08 laitathei

你試試混合量化

混合量化也试过了,还是不行

wyjj avatar Aug 07 '23 14:08 wyjj

这个问题解决了吗

yueyueshine avatar Nov 10 '23 03:11 yueyueshine

我也遇到了这个问题,使用int8量化后模型能成功转出,但是推理结果除了box坐标值其他值都为0。但是使用混合精度量化或者量化设置为false就没问题。

Plwy avatar Nov 16 '23 02:11 Plwy

我也遇到了这个问题,使用int8量化后模型能成功转出,但是推理结果除了box坐标值其他值都为0。但是使用混合精度量化或者量化设置为false就没问题。

你好,这个问题解决了吗

Jeremiah0425 avatar Nov 22 '23 12:11 Jeremiah0425