2020李宏毅学习笔记——30.Attack ML Models(4_8)

1.举一个栗子: 我们希望,把图片丢进去之后,不可以再说是小虎斑猫 用的network是50层的ResNet-50,是一个train好的,本来检测时好的, 经过一轮攻击后,update50次就说是鱼了,竟然非常肯定100分的说是鱼。 过程: 看上去新图片没有什么区别,但是我们用原图片减新图片,然后乘以50倍: 把猫变成键盘的例子: 问题可能出现在network比较弱吗? 2.如果不是加入攻击噪音,
相关文章
相关标签/搜索