神经网络笔记

神经网络总流程 1.计算分值(分值越高就表明分类结论) 2.计算损失函数(一般损失函数+正则化惩罚) 3.正则化惩罚(可以看作是对损失函数的惩罚项,一般有两种方法,L1和L2,W的平方w2,为了惩罚那些虽然分值一样但是,关注的点和实际点有很大出路,例如1,0,0,0和0.25,0.25,0.25,0.25,惩罚越小就越认可,目的也是通过loss值,使得权重更均衡。其实1,0,0,0也是一种过拟合的
相关文章
相关标签/搜索