Adversarial-Machine-Learning
Adversarial-Machine-Learning copied to clipboard
tanjuntao
对抗样本（Adversarial Examples）和投毒攻击（Poisoning Attacks）相关资料
Data Poisoning Attacks and Evation Attacks
1. Evation Attacks (Adversarial Examples)
GitHub 上关于对抗样本的 repo
| 仓库 | 类型 | 描述 |
|---|---|---|
| cleverhans | 攻击&防御 | AML领域鼻祖型的 repo，Goodfellow & Papernot 开发，提供攻击方法和防御方法。 |
| foolbox | 攻击 | 主要功能是用来产生对抗样本，实现了大概15种攻击方法，没有提供防御功能。 |
| adversarial-robustness-toolbox (ART) | 攻击 & 防御 | 提供了大量的攻击方法和防御方法，API很好调用，还提供了几种检测对抗样本的方法。 |
| machine_learning_adversarial_examples | 攻击 | 主要复现论文Explaning and Harnessing Adversarial Examples中的FGSM算法。 |
| Adversarial_Learning_Paper | awesome | AML相关论文列表，包含Survey, Attack, Defense |
| AdversarialDNN-Playground | 可视化 | 可视化攻击过程，同时在理论层面对攻击方法做了一定的分析（见仓库中的presentation） |
| awesome-adversarial-machine-learning | awesome | 总结了AML相关的blogs, papers, talks |
| AdvBox | 攻击&防御 | 百度产品，提供各种攻击和防御方法，支持命令行直接生成对抗样本（zero-coding) |
| adversarial-examples | 攻击 | 理论层面，提供了几种常用攻击方法；现实层面，对路标进行攻击。 |
| adversarial_examples | 攻击 | 提供了几种常用攻击方法，做了图表分析。 |
| Adversarial-Examples-Reading-List | awesome | AML相关论文列表，包含attacks, defenses。作者是 UC Berkeley 博士生。 |
| nn_robust_attacks | 攻击 | 论文Towards Evaluating the Robustness of Neural Networks代码。作者从 UC Berkeley博士毕业。 |
| awesome-adversarial-examples-dl | awesome | AML论文列表，包含Attack, Defense, Application |
| FeatureSqueezing | 防御 | Detecting Adversarial Examples in Deep Neural Network。项目停止维护，移至EvadeML-Zoo |
| adversarial-example-pytorch | 攻击 | pytorch 实现常用攻击方法，并且提供可视化功能。 |
| EvadeML-Zoo | 攻击&防御 | 提供预训练模型，常用数据集，常用攻击方法；可视化对抗样本。 |
| robust-physical-attack | 攻击 | 现实情境中攻击Faster R-CNN目标检测模型，提供targeted & untargeted两种攻击方式。 |
| advertorch | 攻击 & 防御 | foolbox 的精简版，pytorch实现，只提供了一部分的攻击和防御方法。 |
| Non-Targeted-Adversarial-Attacks | 攻击 | NIPS 2017对抗样本攻防大赛 Non-targeted attack第一名。 |
| Targeted-Adversarial-Attack | 攻击 | 同样是 NIPS 2017 攻防大赛中 Targeted attack第一名，作者还是清华大学朱军团队。 |
| artificial-adversary | 攻击 | 文本模态的对抗样本，由airbnb开发。 |
相关竞赛
有用的链接
- https://evademl.org/
- https://secml.github.io/
- http://www.cleverhans.io/
- https://aaai18adversarial.github.io/
- https://www.openmined.org/
- https://www.pluribus-one.it/
- https://www.ieee-security.org/TC/SPW2018/DLS/
- https://robust.vision/benchmark
tanjuntao