什么是对抗样本、对抗攻击（详解）

1.对抗样本 所谓对抗样本就是指：在原始样本添加一些人眼无法察觉的扰动（这样的扰动不会影响人类的识别，但是却很容易愚弄模型），致使机器做出错误的判断。 如下所示，这两张图片添加噪声（或者说扰动之后）被误分类。   2.对抗攻击 由于机器学习算法的输入形式是一种数值型向量（numeric vectors），所以攻击者就会通过设计一种有针对性的数值型向量从而让机器学习模型做出误判，这便被称为对抗性攻击

>>阅读原文<<