深度学习框架Tensorflow学习笔记(二)

交叉熵 权值和偏置值的调整与 无关,另外,梯度公式中的 表示输出值与实 际值的误差。所以当误差越大时,梯度就越大,参数w和b的调整就越快,训练的速度也就越快。  如果输出神经元是线性的,那么二次代价函数就是一种合适的选择。如果输出神经元是S型函数, 那么比较适合用交叉熵代价函数 初始化权值:tf.truncated_normal(shape=[10,10], mean=0, stddev=1)一
相关文章
相关标签/搜索