深度学习局部响应值归一化(Local Response Normalization,LRN)

Local Response Normalization(LRN)技术主要是深度学习训练时的一种提高准确度的技术方法。 LRN一般是在激活、池化函数后的一种方法。 在ALexNet中,提出了LRN层,对局部神经元的活动创建竞争机制,LRN仿造生物学上活跃的神经元对相邻神经元的抑制现象(侧抑制)。 Hinton在2012年的Alexnet网络中给出其具体的计算公式如下: 公式看上去比较复杂,但理解起
相关文章
相关标签/搜索