[关闭]
@wuxin1994 2017-08-01T16:10:14.000000Z 字数 397 阅读 145

吴帆0801

学习笔记17


  1. 整理了一下资料,对神经网络鲁棒性的综述,主要围绕两个大方面:Attack 和 defence。
    现阶段主要调研攻击方面的研究进展。
    在attack方面,有两种情况,即黑盒和白盒。而提升对抗攻击的表现主要有两个方法:①采用何种策略修改输入数据,②采用PCA降维等方法处理数据。而攻击策略即是给数据加入弱小的扰动,从而构造对抗样本。
    目前看过的策略有:在增强学习领域的构造方法、Fast gradient sign method(FGSM)、Papernot method。

  2. 看了《Adversarial Attacks on Image Recognition》,主要讲的是通过PCA降维可以提升对抗样本的效果,针对的场景是用FGSM方法,在MNIST数据集的前提下,分类模型是Logistic Regression Substitute Model。但是,用papernot方法构造的对抗样本效果不明显。

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注