噪声鲁棒性

对于某些模型而言,向输入添加方差极小的噪声等价于对权重施加范数惩罚 (Bishop, 1995a,b)。在通常情 况下,注入噪声远比简单地收缩参数强大,特别是噪声被添加到隐藏单元时会更增强大。向隐藏单元添加噪声是值得单独讨论重要的话题;blog
相关文章
相关标签/搜索