CNN神经网络优化经常使用函数范式一览(损失函数loss,学习率learning_rate,滑动平均ema,正则化regularization)

来源: 学习北大曹健老师Tensorflow课程后作的学习笔记,整理后在此分享给你们. 以前是抄在本子上的, 可能存在一些抄写错误或是标记缺失, 若发现了能够评论告诉我.谢谢. ###一. 损失函数(loss):预测值y与已知答案y_的差距 神经网络优化目标即找到适合的w以减少loss, 有三种减少loss的方法git 1. 均方偏差mse(Mean Squared Error) 2. 自定义损失

>>阅读原文<<