深度学习可解释性

local explanation 方法1:用小方块盖住图片的一块区域，看看模型还能不能正确识别图片，若是不能，说明这块区域很重要 方法2:Saliency Map 求图片的正确识别结果对图片上每一个像素的梯度，梯度绝对值越大越重要。限制，稍微长点的鼻子就能够识别为大象，更长的鼻子部分的梯度有可能变得很是小。可能被攻击，加上噪音，卡车识别正确，可是由于是云彩web global explanati

>>阅读原文<<