tensorRT_Pro icon indicating copy to clipboard operation
tensorRT_Pro copied to clipboard

Published 20 hours ago • verified publisher icon shouxieai

int8量化后的trt模型可视化

Open PrinceDouble opened this issue 1 year ago • 0 comments

请教一下： 1、int8量化后的trt模型可以可视化分析每一层的输入输出类型吗，与fp16和fp32进行对比，因为int8量化后的模型不一定每一层都是int8吧，有可能是混合精度推理模型； 2、对于一些对输出精度要求高的层，怎么细粒度到设置该层为float输出呀？谢谢啦！

PrinceDouble avatar Sep 11 '24 09:09 PrinceDouble