Desmond-97
Results
3
comments of
Desmond-97
@twmht 我后来尝试直接用PTQ量化效果会好很多,TensorRT实现PTQ量化,用交叉熵做校准loss,RepVGG_A0模型在ImageNet分类任务上掉点仅0.16%。 我后来思考QAT量化掉点多的原因可能是:在QAT阶段用的模型是融合后的单分支推理模型,用这个模型进行QAT的finetune会使得模型退化,类似VGG的精度。但我并没有尝试用训练阶段模型进行QAT量化。
@blueardour 是的 但我的实验不够完备,可以在实践的时候再尝试一下~
@hobbitlzy 没有用insert_bn。