神经网络检查

神经网络检查 神经网络的检查我们分为两部分完成: 1.神经网络合理性检查 2.学习过程检查 合理性检查 首先来介绍合理性检查,当我们完成一个神经网络时,我们往往需要逐步的检查网络是否书写正确以及是否可以正常工作。那么我们怎么开始呢? 校验初始化 将网络loss的正则项去掉,进行一次前向传播,输出loss,这时loss的值应该是 −log(1/n) ,其中,n为分类的类别数。这是因为在训练还没开始时
相关文章
相关标签/搜索