深度学习框架Tensorflow学习笔记(二)

交叉熵函数 权值和偏置值的调整与 无关，另外，梯度公式中的 表示输出值与实 际值的偏差。因此当偏差越大时，梯度就越大，参数w和b的调整就越快，训练的速度也就越快。  若是输出神经元是线性的，那么二次代价函数就是一种合适的选择。若是输出神经元是S型函数， 那么比较适合用交叉熵代价函数 spa 初始化权值:tf.truncated_normal(shape=[10,10], mean=0, stdd

>>阅读原文<<