能给出一个完整的onnxruntime推理demo吗

[Zheng-Bicheng]

能不能给出一个完整的python或者c++怎么调用onnxruntime来进行推理，真不是伸手党。看了一下推理的过程，letterbox后的图片大小从来就不一致。根据不同的图片，letterbox会产生不同大小的结果，而不是固定的640*640。但是，onnx模型的输入不是固定的吗，这样让我们怎么输入呢?

[zhiqwang]

ONNX Runtime支持动态shape推理

[Zheng-Bicheng]

before letter box,image shape = (536, 640, 3) after letter box,image shape = (544, 640, 3) before letter box,image shape = (480, 640, 3) after letter box,image shape = (480, 640, 3) before letter box,image shape = (640, 431, 3) after letter box,image shape = (640, 448, 3)

[zhiqwang]

还一个方法是把下面的 auto 参数设置成 False

https://github.com/meituan/YOLOv6/blob/5b6b35defcbe3b7dfa66466857b6825e830481e2/yolov6/data/data_augment.py#L29

[Zheng-Bicheng]

还一个方法是把下面的 auto 参数设置成 False

https://github.com/meituan/YOLOv6/blob/5b6b35defcbe3b7dfa66466857b6825e830481e2/yolov6/data/data_augment.py#L29

感谢您，这个方法是可行的

[Zheng-Bicheng]

ONNX Runtime支持动态shape推理

我们公司是采用瑞芯微的芯片，最后onnx模型是要转换成瑞芯微官方的rknn模型的。因此只能固定一个大小输入，非常感谢您的帮助。

[LYHTZHANGJIANG]

想问一下，你量化编译到RK上面之后数据置信度都是0了,请问你是正常的吗？

[scutzhe]

我使用onnx推理出来的错位了，还在debug中