rknn-toolkit2
rknn-toolkit2 copied to clipboard
rknntoolkits2.0.0导出yoloworld模型,量化的过程报错
onnx模型及导出的rknn模型如下网盘:
链接:https://pan.baidu.com/s/1qm7Q6Dr1yD8CBq9yzoYsvQ?pwd=rknn
提取码:rknn
onnx导出fp16的rknn模型没有出现报错;在do_quantization的时候出现Error,但仍能导出int8模型,报错如下:
但是报错仍然能导出int8的模型;
在3588上进行推理,发现该模型似乎能够推理出正确的输出形状,但速度相当慢,并报错算子问题: