深度学习的局部响应归一化LRN

深度学习的局部响应归一化LRN   LRN这个概念和运用是出现在AlexNet中。LRN最初是生物学里的概念“相邻神经元抑制”,对局部神经元的活动创建竞争机制。使用LRN增加了泛化能力(使输出中响应比较大的值变得相对更大,并抑制其他响应较小的神经元),做了平滑处理,提高了1%~2%的识别率。 在Tensorflow中有对应的函数 tf.nn.lrn(input,depth_radius=None,
相关文章
相关标签/搜索