RepVGG_TensorRT_int8
RepVGG_TensorRT_int8 copied to clipboard
onnx量化为int8模型,不转为TensorRT模型
由于项目需要onnx模型,不支持trt模型。 请问仓库中的方法,能不能直接量化onnx为int8模型,或者将int8的trt模型转回onnx。 谢谢!
不可以
@dollarser 直接将onnx-fp32转化为onnx-int8即可(ORT推理,官方有demo),和onnx-fp32转trt-int8类似的。