论文阅读笔记《Squeeze-and-Excitation Networks》

  该算法在2017年ILSVRC分类比赛中取得第一名的成绩，并且所提出的结构可以很容易的移植到其他网络中，因此值得学习。

0. 摘要

  卷积神经网络是基于卷积操作的，卷积就是通过融合局部感受野内空间维度和特征维度的信息来提取包含信息的特征。为了提高网络的表征能力，几个最新的方法都显示出加强空间编码的作用。在本文中，我们关注的是通道（特征）间的关系，并提出一种全新的结构单元，我们称之为“压缩并**”（Squeeze-and-Excitation,SE）块，其能够通过对通道间的相关性进行显式建模，以自适应地重新标定通道维度上的特征响应。（本质上就是对各个特征图赋予权重，不再是简单的相加，而是加权求和）。我们证实了通过堆叠这些块，我们可以很轻松的构建一个SENet网络结构，并且泛化到更具挑战性的数据集中。关键的是，我们发现SE块可以明显提高当前最先进算法的表现，而且只会增加很少的运算量。

1.介绍

卷积神经网络已经被证实是解决各种视觉任务的有效模型。对于每个卷积层，一系列的滤波器学习去表达输入通道之间的局部空间联系。换句话说，卷积滤波器试图通过融合局部感受野内空间维度和特征维度的信息来实现有用的信息聚合。通过堆叠一系列穿插着非线性**函数和下采样的卷积层，CNNs能够捕获全局感受野上的分层特征来作为有力的图像描述。最新的研究表明，通过增加有助于获得空间相关性的学习机制可以明显提高网络的效果，并且不需要增加额外的监督。Inception结构显示通过在模块中增加多尺度流程可以达到很高的精度。更多的研究都在探索建立更好的空间相关性模型或者融合空间注意（attention）机制。
  本文中，我们研究了结构设计的另一个方面——通道关系（特征关系），通过引入了一个全新的结构单元。我们的目标是通过建立卷积特征之间的相关性的模型来提高网络的表征能力。为了实现这一目标，我们提出了一种允许网络进行特征重标定的机制，借此网络可以学习如何利用全局信息，有选择的加强一些信息量大的特征而忽视一些无用的特征。

                   图1.SE结构块
  SE块的基本结构如图1所示，对于所有的转化Ftr：X→U，（X是输入的图形，U是提取的特征），我们都可以建立对应的SE块去对特征进行重计算。特征U首先经过一个压缩操作，将空间维度H*W的特征图聚合成一个特征描述符。这个描述符包含了通道维度上特征响应的全局分布情况，使较低级别的层也可以获得来自网络的全局感受野的信息。接下来是**过程，用一个样例特化（sample-specific）的**函数，通过基于通道相关性的门限机制（self-gating mechanism）学习控制每个通道的**情况（有的通道权重值大，有的通道小）。每个特征图U都将重新赋予权重并得到SE块输出，可以直接输入到下一层。
  通过简单的堆叠SE结构块就能得到一个SE网络。SE块也可以用于其他结构中任意深度的原始模块。然而，因为结构块的模板是分类的，这表示为了适应网络的需要，在不同的深度他的表现也不同。在较早的层中（靠近输入的层），他以类无关（class agnostic）的方式学习直接的信息特征，提高可共享的低层级的表征能力。在后面的层中，SE块变得更加专门化，并以高类别具体化（class-specific）的方式响应不同的输入。最终，SE块产生的特征重标定的益处可在整个网络中累积。
  新的CNN网络结构的发展是个极具挑战性的任务，尤其是涉及到超参数和层级配置的选择。相反的，SE块的设计十分简单，并且可以直接应用于现有的结构，可以通过用SE块直接代替现有模块。不仅如此，根据第四节的表述，SE块只是稍微增加了模型的复杂度和计算成本。

2.相关研究

深度结构，VGGNet和Inception模型验证了增加网络深度的好处。批量规范化（BN）通过插入调节输入和稳定学习过程的单元改善了梯度传播。ResNets显示使用基于恒等映射(identity-based)的跨越链接的深度学习网络具有很好的效果。Highway网络采用了门限机制来调节捷径连接（shortcut connnection）。重构各层网络之间的连接已被证实能够有效提高深层网络的学习和表征能力。
  另一条研究思路是寻找方法去调整网络的模块化部分的功能形式。分组卷积（grouped convolution）可以用于增加基数（一组变换的大小）。多分枝卷积（Multi-branch convolution）可以使卷积算子更加灵活。最近一种采用自动方式学习的组成具有很好的表现。跨通道(cross-channnel)的相关性被映射为新的特征组合，要么独立于空间结构，要么用1*1的标准卷积核与之相连。这些工作大部分关注如何减少模型和计算的复杂度，这反映了一个假设即通道间的关系可以用一个局部感受野上的实例化不可知（instance-agnostic）的函数组合来描述。相反，我们提出一个单元，其可以使用全局信息来显式地建立通道间动态的，非线性的相关性模型，这能够简化学习过程并有效提高网络的表征能力。
注意力和门限机制，广义上讲，注意力可以被看作一种工具，它能够把可用的处理资源更多分配给输入信号中包含信息量最大的部分。这种机制的好处已经在一系列任务中被证实了，从图像的定位和理解到基于序列的模型。它通常是结合了门限函数（如softmax或者sigmoid）和序列技术（sequential techniques）。最近的研究表明它具有解决图像注释和唇语阅读的能力。在这些应用中，它通常用在顶部的一层或多层中，用来表示高度抽象的模态间的适应度。Wang等人引入了一个使用沙漏模型的有效的trunk-and-mask 注意力机制。这种高容量的单元被插入到深度残差网络的中间层之间。相反，我们提出的SE块是一种轻量级的门限机制，专门用于建立计算高效的通道维度上的关系模型，并设计用来提高网络中基础模块的表征能力。

3.压缩和激发块

  SE是一个可由任意给定的变换组成的计算单元。简单来说，我们称 Ftr $F_{tr}$是卷积算子。令 V=[v1,v2,...vc] $V=[v_1,v_2,...v_c]$代表用于学习的卷积核，其中 vc $v_c$代表第 c $c$个卷积核的参数，我们把 Ftr $F_{tr}$的输出写为 U=[u1,u2,...uc] $U=[u_1,u_2,...u_c]$，其中：

uc=vc∗X=∑s=1C′vsc∗xs $$u_c=v_c\ast X=\underset{s=1}{\overset{C^{\prime }}{\sum }}{v}_c^s\ast x^s$$

式中 ∗ $\ast$表示卷积运算， vc=[v1c,v2c,...vC′c] $v_c=[v_c^1,v_c^2,...v_c^{C^{\prime }}]$和 X=[x1,x2,...xc] $X=[x_1,x_2,...x_c]$(为了简化符号表示，忽略了偏置量)， vsc $v_c^s$是二维空间卷积核，因此表示作用在对应通道 X $X$上的一个单通道 vc $v_c$。因为输出是对所有通道求和，因此通道间的相关性隐藏在 vc $v_c$中，但这些相关性与卷积得到的空间相关性纠缠在一起。我们的目标是增强网络对于含信息量多的特征的敏感度，使他们能被接下来的变换利用，并且抑制无用的特征。我们利用建立通道间相关性的显式模型去重标定滤波器响应，在他们被输入下面的变换之前，这个过程分成两部：压缩和激发。SE机构模块如图1所示。

3.1 压缩：嵌入全局信息

  为了解决通道间相关性的利用问题，我们首先输出特征图中每个通道的信号。每个卷积核都是作用在局部感受野上，这导致每个变换输出 U $U$的单元不能利用这个范围之外的环境（上下文）信息。这个问题在感受野很小的较低层级中更加严重。
  为了减轻这个问题，我们将全局空间信息压缩成一个通道描述符。利用全局平均池化得到一个通道维度（特征维度）上的统计数据。统计值 z∈RC $z\in {\mathbb{R}}^C$是压缩具有空间维度 H×W $H\times W$的 U $U$得到的：

zc=Fsq(uc)=1H×W∑i=1H∑j=1Wuc(i,j) $$z_c=F_{sq}(u_c)=\frac{1}{H\times W}\underset{i=1}{\overset{H}{\sum }}\underset{j=1}{\overset{W}{\sum }}{u}_c(i,j)$$

   讨论 变换输出 U $U$可以被解释为一个局部描述符的集合，这些描述符的统计信息可以表达整幅图像。利用这些信息在特征工程的研究中是很常见的。为了简化运算，我们选择全局平均池化，而没有其他更加复杂的聚合策略。

3.2 激发：自适应重标定

  为了能够利用压缩操作得到的聚合信息，我们下一步的目标是完整捕获通道维度上的依赖性。为了实现这个目标，这个函数必须具有满足两个标准：第一，他必须足够灵活（尤其是能够学习通道间非线性的相互作用）；第二，他必须能够学习一个非互斥（non-mutually-exclusive）的关系，因为我们希望确保多个通道都能被强调，这与独热**（one-hot activation）方式相反。为了满足这两个标准，我们选择了一个带有sigmoid**函数的简单的门限机制：

s=Fex(z,W)=σ(g(z,W))=σ(W2δ(W1z)) $$s=F_{ex}(z,W)=\sigma (g(z,W))=\sigma (W_2\delta (W_{1}z))$$

式中， δ $\delta$表示ReLU函数， W1∈RCr×C $W_1\in {\mathbb{R}}^{\frac{C}{r}\times C}$和 W2∈RC×Cr $W_2\in {\mathbb{R}}^{C\times \frac{C}{r}}$。为了限制模型的复杂度和帮助模型泛化，我们通过把非线性周围的两个全连接层（FC）组成瓶颈（bottleneck）结构来参数化门限机制，例如一个参数为 W1 $W_1$的维度降低层，可以把参数量减少 r $r$倍，一个ReLU函数和一个参数为 W2 $W_2$的维度增加层。块的最终输出是由调整带有**函数的变换输出 U $U$得到的:

x˜c=Fscale(uc,sc)=sc⋅uc $${\tilde{x}}_c=F_{scale}(u_c,s_c)=s_c\cdot u_c$$

式中， X˜=[x˜1,x˜2,...x˜C] $\tilde{X}=[{\tilde{x}}_1,{\tilde{x}}_2,...{\tilde{x}}_C]$， Fscale(uc,sc) $F_{scale}(u_c,s_c)$表示特征图 uc∈RH×W $u_c\in {\mathbb{R}}^{H\times W}$和标量 sc $s_c$的对应通道的乘积。
   讨论 这个**函数的作用是根据输入特征的描述符 z $z$来给每个通道赋予权重。
就这一点而言，SE块本质上引入了对输入的动态适应性，这有助于增强特征区分能力。

3.3 举例：SE-Inception和SE-ResNet

  SE块可以直接应用到AlexNet或VGGNet上。SE块的灵活性意味着它可以直接应用于标准卷积之外的变换。为了说明这一点，我们通过向最新的复杂结构中插入SE块搭建了SENet。
  对于非残差网络，例如Inception网络，SE块通过用变换 Ftr $F_{tr}$去替换整个Inception模块（如图2所示）来构建网络。通过对网络中的每个模块都做这种改变，我们构建了SE-Inception网络。除此之外，SE块也足够灵活可以应用于残差网络。图3显示了SE-ResNet的结构。此处，SE块的变换 Ftr $F_{tr}$用来代替残差模块中的非恒等分支（non-identity branch）。

            图2 SE-Inception网络结构

            图3 SE-ResNet网络结构
压缩和激发都作用在求和之前的恒等分支。SE-ResNet-50和SE-ResNeXt-50的结构如表1所示。表1 fc $fc$括号里的数字表示使用SE模块中两个全连接层的输出维度

4.模型和计算复杂度

  为了将SE块在实践中可用，必须在模型复杂度和效果之间提供有效的均衡，这对于模型的拓展性是很重要的。我么设置降维比率 r $r$为16在所有的实验中。为了说明模块的计算代价，我们以ResNet-50和SE-ResNet-50为例做一个比较，SE-ResNet-50的准确率比ResNet-50高，甚至比更深层的网络ResNet-101还要高（如表2所示）。ResNet-50对于一幅224*224的输入图像做一次前向计算大约需要计算~3.86GFLOPs(每秒十亿次浮点数运算)。每个SE块在压缩步骤中使用全局均值池化，在激发步骤中使用两个小型全连接层，后面跟随一个运算量很小的通道维度的调整操作。总计起来，SE-ResNet-50需要~3.87GFLOPs与对应的ResNet-50相比增加了0.26%。
表2 错误率与复杂度比较，original代表算法作者的实验结果，re-implementation代表本文复现该算法的实验结果，SENet代表增加了SE块的网络的实验结果，括号里是错误率下降值，+号表示该模型是在测试集中非黑名单的数据集上评估的，这可以稍微改善结果，VGG-16和SE-VGG-16是用批量规范化方式训练的。
  下面，我们考虑由于引入SE块增加的参数量。他们全部包含在门限机制的两个全连接层里，占整个网络参数的很小一部分。更精确的说，增加的参数数量如下：

2r∑s=1SNs⋅C2s $$\frac{2}{r}\underset{s=1}{\overset{S}{\sum }}{N}_s\cdot C_s^2$$

式中： r $r$代表降维比率， S $S$表示阶段的数量（每个阶段表示在共同空间维度的特征图上运行的块的集合）， Cs $C_s$表示输出通道的维数， Ns $N_s$表示每个阶段重复的块的数量。（解释一下：假设上一层输入维度为H*W*256，经过一次全局平均池化后变成1*1*256，也就是256个数字，再经过一个降维比率为16全连接层，则维度变成1*1*(256/16)，因为全连接得到的16个数字，每个都是上一层的256个数字加权求和得到的，因此此处增加了256*16个参数，经过一个ReLU函数维度不变，仍是1*1*16，在经过一个升维比率为16的全连接层，参数又增加了256*16个，因此每多一个SE块参数就增加2*256*（256/16）个，用符号表示就是2*C*C/r，把各个阶段的SE块加起来就得到上面的式子）。SE-ResNet-50大约增加了250万个参数，与原网络相比约增长了10%。这些参数主要来自于网络的最后一个阶段，然而我们发现去掉运算量最大的最后一个阶段只会轻微提高错误率（top-1的错误率增长小于0.1%），但能够减少大约4%的参数数量，这在对参数数量要求较高的情况中是很有用的。

5.实现

  每一层网络和它对应的SE块是按照相同的最优化方案训练的。在ImageNet上训练的过程中，我们按照按照标准的训练流程，将输入图片随机裁剪成224*224像素大小，并做随机的水平翻转。输入图像通过减去通道均值进行均一化。除此之外，我们采用了数据平衡策略进行小批量采样。使用同步SGD进行优化，动量为0.9，小批量尺寸为1024。初始学习率是0.6，每30个周期降低10倍。所有的模型都从零开始训练100个周期。

原文链接：https://arxiv.org/abs/1709.01507
代码链接：https://github.com/hujie-frank/SENet