Vinci

Results 4 comments of Vinci

I sloved this problem. .float() should also be added to the eval_model() function

> �改一下bit配置测试一下就知道啦 感谢回复,我这就准备试一下。在Image net上量化的准确度,位宽为4或者其他位数时,BN层的参数是不是仍然是32位的啊。谢谢!

> > > �改一下bit配置测试一下就知道啦 > > > 感谢回复,我这就准备试一下。在Image net上量化的准确度,位宽为4或者其他位数时,BN层的参数是不是仍然是32位的啊。谢谢! > > 是的,这里对bn没做处理,仍然是fp32,可以参考一下google whitepaper文章bn的处理 好的。非常感谢分享。确实BN层的处理可以有很多手法,但是BN层使用浮点数或者INT32对计算量的影响并不大。

Have you found a solution? I encountered the same problem when using FGSM attack on CIFAR10 dataset.