DiffAttack icon indicating copy to clipboard operation
DiffAttack copied to clipboard

直接运行代码进行测试无法得到较好的效果

Open hukexin326 opened this issue 8 months ago • 4 comments

作者您好!我自己运行得到的效果很差,比如说我选择了inception model,得到的效果如下所示。我想请问是我进行测试的图片数量太少导致这样的结果还是一些其他原因。 *Transfer to mixer-b Accuracy on benign examples: 70.0% Accuracy on adversarial examples: 30.0%

*Transfer to mixer-l Accuracy on benign examples: 70.0% Accuracy on adversarial examples: 10.0%

*Transfer to tf2torch_adv_inception_v3 Accuracy on benign examples: 70.0% Accuracy on adversarial examples: 10.0%

*Transfer to tf2torch_ens3_adv_inc_v3 Accuracy on benign examples: 90.0% Accuracy on adversarial examples: 0.0%

*Transfer to tf2torch_ens4_adv_inc_v3 Accuracy on benign examples: 70.0% Accuracy on adversarial examples: 10.0%

*Transfer to tf2torch_ens_adv_inc_res_v2 Accuracy on benign examples: 100.0% Accuracy on adversarial examples: 20.0% clean_accuracy: 100.0 90.0 80.0 100.0 100.0 90.0 100.0 90.0 100.0 70.0 70.0 70.0 90.0 70.0 100.0 adv_accuracy: 30.0 30.0 30.0 10.0 50.0 30.0 40.0 40.0 30.0 30.0 10.0 10.0 0.0 10.0 20.0

*fid: 287.84357605437066

期待您的答复,祝您生活愉快!

hukexin326 avatar Apr 03 '25 08:04 hukexin326

哈喽 @hukexin326 ,

“效果很差”具体是指哪方面呢?

因为对比我之前在inception model上的测试结果 https://github.com/WindVChen/DiffAttack/issues/8#issuecomment-1694645347 , 你上面所附的攻击指标看起来更好些(accuracy on adv samples越低越好)

测试的数据集是自己的数据集嘛?

WindVChen avatar Apr 03 '25 11:04 WindVChen

感谢回复! 效果比较差具体是指我的fid比较高,在多种模型上测试结果都在200-300左右,肉眼观察对抗样本也能发现与原图之间有比较明显的不同,而原文中的fid都在60左右,对抗样本也会更不可察觉。

hukexin326 avatar Apr 03 '25 14:04 hukexin326

可以尝试调整参数来平衡攻击性能和不可查觉性哈~

比如增大--self_attn_loss_weight--start_step,或减少--iterations,来缩小对抗样本与干净样本的区别(不过也同时会降低攻击性能)

WindVChen avatar Apr 03 '25 14:04 WindVChen

感谢回复! 我发现fid高是因为fid这个指标在比较多的样本上会比较准,我在100张图片上跑出来的fid在200左右,在1000张图片上跑出来的fid和论文中的就一样了。

hukexin326 avatar Apr 05 '25 15:04 hukexin326