[李宏毅-机器学习]解释性机器学习 Explainable ML

local explaination 移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要   计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要   global explaination   用一个可以被解释的model去解释另一个不可被解释的model  

>>阅读原文<<