rknn-toolkit2 icon indicating copy to clipboard operation
rknn-toolkit2 copied to clipboard

Published 20 hours ago • verified publisher icon rockchip-linux

siamRPN模型转换，在开启量化时，出现段错误

Open Fenton946 opened this issue 1 year ago • 3 comments

errlog

Fenton946 avatar Oct 27 '22 08:10 Fenton946

请问一下你那边siamrpn的模型跑通了吗？

JimmyLauren avatar Sep 09 '23 03:09 JimmyLauren

我这里将siamrpn++的模型转到3588上之后，模型转换没有问题，就是rpn_head的模型计算结果和onnx的计算结果相差比较大，不知道是啥原因

JimmyLauren avatar Sep 09 '23 12:09 JimmyLauren

我这里将siamrpn++的模型转到3588上之后，模型转换没有问题，就是rpn_head的模型计算结果和onnx的计算结果相差比较大，不知道是啥原因

好像是F.conv2d计算有问题，请问您解决了吗～

LXL-BJUT avatar Mar 20 '24 06:03 LXL-BJUT