Scott-Mao

graft训练mbv2模型没有优化效果

9

你好，非常感谢你的工作，但是我在测试你的方法的时候，始终无法达到你的效果,我验证了不同学习率下ｍｂｖ２网络在cifar-10上的得分，以及cos学习策略下的得分，和使用graft方法后得分，发现graft算法好像没作用（基础模型是92.1，graft是92.28），请问你知道原因吗？所有设置均按照默认设置 学习方式 学习率 精度 文件夹 lr 　　　0.1 92.10 2 lr 　　　　 0.1(2) 94.06 5 lr 　　0.1(10) 90.10 4 lr 　　 0.1(100) 40.90 3 cos 　　 0.1 92.75(92.6) 6 grafting(lr) 　 0.1 92.28 2

请问能提供一下训练的参考代码吗？非常感谢