rknn-toolkit
rknn-toolkit copied to clipboard
rockchip-linux
## 问题描述 在部署YOLOv5并校验一致性的时候发现有明显的精度损失。在关闭量化（或者使用INT16量化）的情况下逐层调试，发现是SPP的maxpool层开始出现明显的误差，而且只有当maxpool的kernel size大于7之后才有这个问题 ## 猜测 应该是maxpool层的实现有些问题 ## 复现方式 搭建一个只有maxpool层且kenel size为9或者13的模型进行推理，即可复现这个问题 ## 临时解决方案 导出ONNX模型时将YOLOv5的SPP中kernel size为9和13的替换为级联的kernel size为5的maxpool，从而绕开这个问题。最后测试结果基本没有精度损失 ## 软硬件版本信息 模型转换工具：RKNN Toolkit v1.7.1 硬件平台：RV1126 推理库打印的版本信息： ``` SDK api version: librknn_runtime version 1.6.0...
在虚拟机ubuntu18.04上跑yolo v5 demo，模型是onnx格式的，单张图片推理时延为80s，正常吗？如果用开发板跑是不是会有大幅提升？
Hi, I am trying to convert my PyTorch model to RKNN, I am using Torch FX (https://pytorch.org/tutorials/prototype/fx_graph_mode_quant_guide.html) as the quantization framework. There are some parts of my model that are...
rknn-toolkit一代，pytorch模型是.pth文件可以吗，还是必须.pt的？（看手册中写的是后缀.pt的文件
我的板子是RK3399Pro debian系统 1、更新https://github.com/rockchip-linux/rknpu 替换rk3399pro代码仓库下的npu/external/rknpu，然后编译替换之前的npu固件 2、rk3399pro开发板上安装rknn_toolkit-1.7.1-cp37-cp37m-linux_aarch64.whl 3、adb push rknn-toolkit/platform-tools/ntp/linux-aarch64/npu_transfer_proxy 到debian下的/usr/bin 替换旧的 4、运行mobilenet_v1，报一下错误。 done --> Export RKNN model done --> Init runtime environment E Catch exception when init runtime! E Traceback (most...
在Win7底下使用VirtualBox安裝Ubuntu18.04再使用docker方式載入鏡像，執行python test.py後出現Illegal instruction (core dumped)
在Win7底下使用VirtualBox安裝Ubuntu18.04後使用docker方式載入鏡像，執行python test.py 後出現 Illegal instruction (core dumped), 就這麼一行訊息，沒有其他的任何debug訊息出來。 docker 有測試可以執行Hello World鏡像。測試使用rknn-toolkit-1.7.0-docker.tar.gz 或 rknn-toolkit-1.7.1-docker.tar.gz 都是相同的狀況。請問有人遇到相同的現象嗎？這和 VirtualBox的系統配置有關嗎？
Hi, I'm using yolov3 and taking advantage of rknn toolkit on AIO-Firefly-3399ProC the inference time is ok but the yolo post process takes approximately 131ms per each image. is there...
hi,can you help me to convert the onnx model to rknn model?Thx!!!!!! my onnx model is here: 链接: https://pan.baidu.com/s/1mk7fu3t5BCGOYDLz9kUCLQ 提取码: 8qbm
