onnx_tensorrt_project icon indicating copy to clipboard operation
onnx_tensorrt_project copied to clipboard

Published 20 hours ago • verified publisher icon ttanzhiqiang

yolov5 量化int8怎么操作？

Open zsffuture opened this issue 4 years ago • 1 comments

如题，我看源码是支持int8的，想尝试一下，但是不知道步骤，大神有具体的步骤吗？我尝试时老是失败，是需要先生成int8的模型吗？还是怎么操作呢？ image image

zsffuture avatar Sep 08 '21 08:09 zsffuture

设置m_config.mode = 2，你可以看看我的案例，而且需要配置校准表

ttanzhiqiang avatar Sep 08 '21 10:09 ttanzhiqiang