随机神经网络之玻尔兹曼机

1、引言 在机器学习以及优化组合问题中，最经常使用的方法就是梯度降低法。好比BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每一个权可视为一个自由度或者变量。咱们知道自由度越高，变量越多，模型越复杂，模型的能力越强。可是模型能力越强，模型就越容易过拟合，对噪声太敏感。另外一方面，使用梯度降低进行最优解搜寻时，多变量的偏差曲面很像是绵亘不绝的山峰同样，变量越多，山峰和山谷也

>>阅读原文<<