UFLDL教程(一)---稀疏自编码器

神经网络模型 简单的神经网络 前向传播 代价函数 对于单个例子 。其代价函数为: 给定一个包括m个例子的数据集,我们能够定义总体代价函数为: 以上公式中的第一项  是一个均方差项。 第二项是一个规则化项(也叫权重衰减项)。其目的是减小权重的幅度。防止过度拟合。 反向传播算法 反向传播算法,它是计算偏导数的一种有效方法。 批量梯度下降法 梯度检验 给定一个被觉得能计算 的函数,我们能够用以下的数值检
相关文章
相关标签/搜索