yolov5prune 稀疏训练时候遇到nan

稀疏训练时候遇到nan

Open yezechen opened this issue 3 years ago • 4 comments

你好，我在稀疏训练的时候设置的参数是sr=0.001，但是还是遇到了如下问题无标题请问这是什么原因呢

Oct 27 '21 02:10 yezechen

换成Adam优化器

Oct 27 '21 02:10 zxsitu

换成Adam优化器

训练时候参数已经设置了adam

Oct 27 '21 02:10 yezechen

是adam，不是adamW。使用adamW优化器可能会出现NaN的问题，用sgd或者普通adam没有发现这样的情况

Dec 14 '21 02:12 Rainlolthx

@yezechen 我出现了一样的情况，请问您解决了这个问题吗？

Jan 18 '22 14:01 YChao99