模型的可解释性初识

模型的可解释性即让CNN模型本身解释预测的结果。好比分类任务，须要解释分类的缘由，即经过图片的哪些像素作出了判断。git 关于CNN模型的可解释性，比较经典的有：反卷积（Deconvolution）和导向反向传播（Guided-backpropagation）。经过他们，能够在必定程度上看到cnn模型中较深的卷积层所学习到的一些特征。从本质上说，反卷积和导向反向传播的基础都是反向传播，即对输入进行

>>阅读原文<<