one-pixel-attack-keras

收录理由

很多团队是在模型被人利用之后才意识到图像分类器有多脆弱，而这个仓库把这一课变得很便宜。它用Keras重做了2017年那篇论文里的单像素攻击：攻击者只改一个像素的颜色，手里只有模型输出的各类别概率，就能在多数情况下让分类出错。代码既是可读的教程，也带命令行攻击工具，你可以先训几个参考CNN在CIFAR-10上，再看每个模型在攻击者只动一个像素时被攻破的频率，以及三个或五个像素是否让攻击更容易。因为代码把几种架构放在一起对比，你也能大致看出哪些设计更抗打——比如胶囊网络比普通卷积稳一些，但依然有漏洞。拿它当基准，能帮你快速判断自己的模型是不是特别容易被骗。