DSL icon indicating copy to clipboard operation
DSL copied to clipboard

EMAModel and student model get the same performance

Open yarkable opened this issue 3 years ago • 9 comments

hello,我昨天试了一下用训好的 epochxx.pth 和 epochxx.pth_ema 进行推理,发现这两个模型得到的精度是一模一样的,请问这样是合理的吗,理论上 EMAmodel 的精度不是会高很多的吗,或者说有哪里出了问题?

yarkable avatar Aug 01 '22 02:08 yarkable

@yarkable 这个不一定的,用ema来训的模型 最后student可能和teacher差不多,但是不用ema训可能student相比用了ema的student会差一些。我的观测经验是这样的 ^_^

chenbinghui1 avatar Aug 01 '22 02:08 chenbinghui1

@chenbinghui1 这样啊,那请问有试过用他们俩来进行蒸馏嘛,我现在试的效果不怎么理想

yarkable avatar Aug 01 '22 03:08 yarkable

@yarkable 这个之前我也试过 感觉没啥用,可能蒸的方式不对吧

chenbinghui1 avatar Aug 01 '22 03:08 chenbinghui1

@chenbinghui1 哦哦,感谢回复,这个结论还挺出乎意料的

yarkable avatar Aug 01 '22 04:08 yarkable

@chenbinghui1 您好,请问一下这个图是怎么画出来的呀,在计算mAP的时候手动统计FP、TP的数量然后再借助工具画嘛,还是说有现成的工具包可以做到呢? image

yarkable avatar Oct 20 '22 02:10 yarkable

@yarkable 哦 自己统计画的 这个没找到工具箱

chenbinghui1 avatar Oct 20 '22 03:10 chenbinghui1

@chenbinghui1 明白,请问这个统计的代码方便借鉴一下嘛

yarkable avatar Oct 20 '22 03:10 yarkable

@yarkable 这个是中间过程的代码,没有整理和保存 -_-

chenbinghui1 avatar Oct 20 '22 09:10 chenbinghui1

@chenbinghui1 嗯嗯,没事,我自己研究一下,感谢!

yarkable avatar Oct 20 '22 13:10 yarkable