复杂模型可解释性方法——LIME

一、模型可解释性     近年来，机器学习（深度学习）取得了一系列骄人战绩，但是其模型的深度和复杂度远远超出了人类理解的范畴，或者称之为黑盒（机器是否同样不能理解？），当一个机器学习模型泛化性能很好时，我们可以通过交叉验证验证其准确性，并将其应用在生产环境中，但是很难去解释这个模型为什么会做出此种预测，是基于什么样的考虑？作为机器学习从业者很容易想清楚为什么有些模型存在性别歧视、种族歧视和民族仇恨

>>阅读原文<<