【译】Attacks against machine learning — an overview

这篇博客文章调查了针对AI(人工智能)系统的攻击技术以及如何防范它们。html 在较高级别,对分类器的攻击能够分为三种类型:node 对抗性输入 ,这是特制的输入,其目的是可靠地错误分类以逃避检测。 对抗性输入包括旨在逃避防病毒的恶意文档,以及试图逃避垃圾邮件过滤器的电子邮件。 数据中毒攻击 ,涉及将训练对抗数据提供给分类器。 咱们观察到的最多见的攻击类型是模型倾斜,攻击者试图以这样的方式污染训练
相关文章
相关标签/搜索