PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard
verified publisher icon PaddlePaddle

paddle_inference_eval验证性能，int8和fp32精度差距很大

Open oydf opened this issue 2 years ago • 2 comments

压缩好的 bert mrpc模型，使用paddle_inference_eval验证性能，发现int8和fp32精度差距很大 --precision=fp32 84 --precision=fp16 84 --precision=int8 61

oydf avatar Nov 08 '23 07:11 oydf

@lizexu123

ceci3 avatar Feb 06 '24 03:02 ceci3

用什么方法压缩的？把github链接发一下

lizexu123 avatar Feb 06 '24 03:02 lizexu123