神经网络与深度学习笔记(一)梯度下降算法

1、定义一个代价函数 w 表示所有的网络中权重的集合 n 是训练输入数据的个数 a 是表 示当输入为 x 时输出的向量 求和则是在总的训练输入 x 上进行的 C 称为二次代价函数;有时也称被称为均方误差或者 MSE 2、C 我们训练神经网络的目的是找到能最小化二次代价函数 C(w, b) 的权重和偏置 假设我们要最小化某些函数,C(v)。它可以是任意的多元实值函数,v = v1, v2, …。 注
相关文章
相关标签/搜索