[paper]Practical Black-Box Attacks against Machine Learning

本文提出了对抗样本的黑盒攻击策略，也就是在没有分类训练数据或模型知识的情况下生成对抗样本。 即通过构建一个综合数据集（通过收集目标分类器的输入和输出），以训练目标模型的替代品（本地构建的相似的模型），实现对目标模型的攻击。 三个关键属性： （a）所需的功能仅限于观察输出类标签 （b）查询的标签数量为有限 （c）除了最新的DNN，该方法也适用于不同的ML分类器类型 黑盒攻击策略： 训练替代模型：攻击

>>阅读原文<<