UFLDL Tutorial 课程核心内容提炼-3：自编码算法和稀疏性

该课程在斯坦福深度学习课上，点此打开         核心内容，自编码器，非监督学习方法。如果隐藏层的神经元数目较少，很好理解，如果较多，则要对隐层进行稀疏性限制，引入惩罚因子，这个惩罚因子和信息熵理论中的散度有关，所以引入KL-divergence进行转换，转换完成之后，为了求解这个最后的解，即的h，给出最终的损失函数，之后就和普通的神经网络一致了，进行梯度求解，迭代解出h。 ---------

>>阅读原文<<