拉普拉斯平滑处理 Laplace Smoothing

背景:为何要作平滑处理?

　　零几率问题，就是在计算实例的几率时，若是某个量x，在观察样本库（训练集）中没有出现过，会致使整个实例的几率结果是0。在文本分类的问题中，当一个词语没有在训练样本中出现，该词语调几率为0，使用连乘计算文本出现几率时也为0。这是不合理的，不能由于一个事件没有观察到就武断的认为该事件的几率是0。

拉普拉斯的理论支撑

　　为了解决零几率的问题，法国数学家拉普拉斯最先提出用加1的方法估计没有出现过的现象的几率，因此加法平滑也叫作拉普拉斯平滑。
　　假定训练样本很大时，每一个份量x的计数加1形成的估计几率变化能够忽略不计，但能够方便有效的避免零几率问题。

应用举例

　　假设在文本分类中，有3个类，C一、C二、C3，在指定的训练样本中，某个词语K1，在各个类中观测计数分别为0，990，10，K1的几率为0，0.99，0.01，对这三个量使用拉普拉斯平滑的计算方法以下：
　　1/1003 = 0.001，991/1003=0.988，11/1003=0.011

　　在实际的使用中也常用加 lambda（1≥lambda≥0）来代替简单加1。若是对N个计数都加上lambda，这时分母也要记得加上N*lambda。