深度学习笔记之基于R-CNN的物体检测

 

 

　　　　很少说，直接上干货！

 

基于R-CNN的物体检测

原文地址：http://blog.csdn.net/hjimce/article/details/50187029

做者：hjimce

 

 

1、相关理论

   　本篇博文主要讲解2014年CVPR上的经典paper：《Rich feature hierarchies for Accurate Object Detection and Segmentation》，这篇文章的算法思想又被称之为：R-CNN（Regions with Convolutional Neural Network Features），是物体检测领域曾经得到state-of-art精度的经典文献。

   　这篇paper的思想，改变了物体检测的总思路，如今好多文献关于深度学习的物体检测的算法，基本上都是继承了这个思想，好比：《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》，因此学习经典算法，有助于咱们之后搞物体检测的其它paper。

    　以前刚开始接触物体检测算法的时候，总是分不清deep learning中，物体检测和图片分类算法上的区别，弄得我头好晕，终于在这篇paper上，看到了解释。物体检测和图片分类的区别：图片分类不须要定位，而物体检测须要定位出物体的位置，也就是至关于把物体的bbox检测出来，还有一点物体检测是要把全部图片中的物体都识别定位出来。

 

 

 

2、基础知识

一、有监督预训练与无监督预训练

　　(1)无监督预训练(Unsupervised pre-training)

　　无监督预训练这个名词咱们比较熟悉，栈式自编码、DBM采用的都是采用无监督预训练。由于预训练阶段的样本不须要人工标注数据，因此就叫作无监督预训练。

　　(2)有监督预训练(Supervised pre-training)

　　所谓的有监督预训练，咱们也能够把它称之为迁移学习。好比你已经有一大堆标注好的人脸年龄分类的图片数据，训练了一个CNN，用于人脸的年龄识别。而后当你遇到新的项目任务是：人脸性别识别，那么这个时候你能够利用已经训练好的年龄识别CNN模型，去掉最后一层，而后其它的网络层参数就直接复制过来，继续进行训练。这就是所谓的迁移学习，说的简单一点就是把一个任务训练好的参数，拿到另一个任务，做为神经网络的初始参数值,这样相比于你直接采用随机初始化的方法，精度能够有很大的提升。

　　图片分类标注好的训练数据很是多，可是物体检测的标注数据却不多，如何用少许的标注数据，训练高质量的模型，这就是文献最大的特色，这篇paper采用了迁移学习的思想。文献就先用了ILSVRC2012这个训练数据库（这是一个图片分类训练数据库），先进行网络的图片分类训练。这个数据库有大量的标注数据，共包含了1000种类别物体，所以预训练阶段cnn模型的输出是1000个神经元，或者咱们也直接能够采用Alexnet训练好的模型参数。

 

 

二、IOU的定义

　　由于没有搞过物体检测不懂IOU这个概念，因此就简单介绍一下。物体检测须要定位出物体的bounding box，就像下面的图片同样，咱们不只要定位出车辆的bounding box 咱们还要识别出bounding box 里面的物体就是车辆。对于bounding box的定位精度，有一个很重要的概念，由于咱们算法不可能百分百跟人工标注的数据彻底匹配，所以就存在一个定位精度评价公式：IOU。

　　IOU定义了两个bounding box的重叠度，以下图所示：

　　矩形框A、B的一个重合度IOU计算公式为：

IOU=(A∩B)/(A∪B)

　　就是矩形框A、B的重叠面积占A、B并集的面积比例:

IOU=SI/(SA+SB-SI)

 

 

 

三、非极大值抑制

　　由于一下子讲RCNN算法，会从一张图片中找出n多个多是物体的矩形框，而后为每一个矩形框为作类别分类几率：

　　就像上面的图片同样，定位一个车辆，最后算法就找出了一堆的方框，咱们须要判别哪些矩形框是没用的。非极大值抑制：先假设有6个矩形框，根据分类器类别分类几率作排序，从小到大分别属于车辆的几率分别为A、B、C、D、E、F。

　　(1)从最大几率矩形框F开始，分别判断A~E与F的重叠度IOU是否大于某个设定的阈值;

　　(2)假设B、D与F的重叠度超过阈值，那么就扔掉B、D；并标记第一个矩形框F，是咱们保留下来的。

　　(3)从剩下的矩形框A、C、E中，选择几率最大的E，而后判断E与A、C的重叠度，重叠度大于必定的阈值，那么就扔掉；并标记E是咱们保留下来的第二个矩形框。

　　就这样一直重复，找到全部被保留下来的矩形框。

 

 

四、VOC物体检测任务

　　这个就至关于一个竞赛，里面包含了20个物体类别：http://host.robots.ox.ac.uk/pascal/VOC/voc2012/examples/index.html  还有一个背景，总共就至关于21个类别，所以一会设计fine-tuning CNN的时候，咱们softmax分类输出层为21个神经元。

 

 

 

3、算法整体思路 

    开始讲解paper前，咱们须要先把握整体思路，才容易理解paper的算法。

    图片分类与物体检测不一样，物体检测须要定位出物体的位置，这种就至关于回归问题，求解一个包含物体的方框。而图片分类实际上是逻辑回归。这种方法对于单物体检测还不错，可是对于多物体检测就……

    所以paper采用的方法是：首先输入一张图片，咱们先定位出2000个物体候选框，而后采用CNN提取每一个候选框中图片的特征向量，特征向量的维度为4096维，接着采用svm算法对各个候选框中的物体进行分类识别。也就是总个过程分为三个程序：a、找出候选框；b、利用CNN提取特征向量；c、利用SVM进行特征向量分类。具体的流程以下图片所示：

　　后面咱们将根据这三个过程，进行每一个步骤的详细讲解。

 

 

 

4、候选框搜索阶段

一、实现方式

　　当咱们输入一张图片时，咱们要搜索出全部多是物体的区域，这个采用的方法是传统文献的算法：《search for object recognition》，经过这个算法咱们搜索出2000个候选框。而后从上面的总流程图中能够看到，搜出的候选框是矩形的，并且是大小各不相同。然而CNN对输入图片的大小是有固定的，若是把搜索到的矩形选框不作处理，就扔进CNN中，确定不行。所以对于每一个输入的候选框都须要缩放到固定的大小。下面咱们讲解要怎么进行缩放处理，为了简单起见咱们假设下一阶段CNN所须要的输入图片大小是个正方形图片227*227。

　　由于咱们通过selective search 获得的是矩形框，paper试验了两种不一样的处理方法：

　　(1)各向异性缩放

　　这种方法很简单，就是无论图片的长宽比例，管它是否扭曲，进行缩放就是了，所有缩放到CNN输入的大小227*227，以下图(D)所示；

　　(2)各向同性缩放

　　由于图片扭曲后，估计会对后续CNN的训练精度有影响，因而做者也测试了“各向同性缩放”方案。这个有两种办法

　　A、直接在原始图片中，把bounding box的边界进行扩展延伸成正方形，而后再进行裁剪；若是已经延伸到了原始图片的外边界，那么就用bounding box中的颜色均值填充；以下图(B)所示;

　　B、先把bounding box图片裁剪出来，而后用固定的背景颜色填充成正方形图片(背景颜色也是采用bounding box的像素颜色均值),以下图(C)所示;

　　对于上面的异性、同性缩放，文献还有个padding处理，上面的示意图中第一、3行就是结合了padding=0,第二、4行结果图采用padding=16的结果。通过最后的试验，做者发现采用各向异性缩放、padding=16的精度最高，具体再也不啰嗦。

　　OK，上面处理完后，能够获得指定大小的图片，由于咱们后面还要继续用这2000个候选框图片，继续训练CNN、SVM。然而人工标注的数据一张图片中就只标注了正确的bounding box，咱们搜索出来的2000个矩形框也不可能会出现一个与人工标注彻底匹配的候选框。所以咱们须要用IOU为2000个bounding box打标签，以便下一步CNN训练使用。在CNN阶段，若是用selective search挑选出来的候选框与物体的人工标注矩形框的重叠区域IoU大于0.5，那么咱们就把这个候选框标注成物体类别，不然咱们就把它当作背景类别。SVM阶段的正负样本标签问题，等到了svm讲解阶段我再具体讲解。

 

 

5、CNN特征提取阶段

一、算法实现

　　a、网络结构设计阶段

网络架构咱们有两个可选方案：第一选择经典的Alexnet；第二选择VGG16。通过测试Alexnet精度为58.5%，VGG16精度为66%。VGG这个模型的特色是选择比较小的卷积核、选择较小的跨步，这个网络的精度高，不过计算量是Alexnet的7倍。后面为了简单起见，咱们就直接选用Alexnet，并进行讲解；Alexnet特征提取部分包含了5个卷积层、2个全链接层，在Alexnet中p5层神经元个数为921六、 f六、f7的神经元个数都是4096，经过这个网络训练完毕后，最后提取特征每一个输入候选框图片都能获得一个4096维的特征向量。

　　b、网络有监督预训练阶段

参数初始化部分：物体检测的一个难点在于，物体标签训练数据少，若是要直接采用随机初始化CNN参数的方法，那么目前的训练数据量是远远不够的。这种状况下，最好的是采用某些方法，把参数初始化了，而后在进行有监督的参数微调，这边文献采用的是有监督的预训练。因此paper在设计网络结构的时候，是直接用Alexnet的网络，而后连参数也是直接采用它的参数，做为初始的参数值，而后再fine-tuning训练。

　　网络优化求解：采用随机梯度降低法，学习速率大小为0.001；

C、fine-tuning阶段

　　咱们接着采用selective search 搜索出来的候选框，而后处理到指定大小图片，继续对上面预训练的cnn模型进行fine-tuning训练。假设要检测的物体类别有N类，那么咱们就须要把上面预训练阶段的CNN模型的最后一层给替换掉，替换成N+1个输出的神经元(加1，表示还有一个背景)，而后这一层直接采用参数随机初始化的方法，其它网络层的参数不变；接着就能够开始继续SGD训练了。开始的时候，SGD学习率选择0.001，在每次训练的时候，咱们batch size大小选择128，其中32个事正样本、96个事负样本（正负样本的定义前面已经提过，再也不解释）。

二、问题解答

　　OK，看完上面的CNN过程后，咱们会有一些细节方面的疑问。首先，反正CNN都是用于提取特征，那么我直接用Alexnet作特征提取，省去fine-tuning阶段能够吗？这个是能够的，你能够不需从新训练CNN，直接采用Alexnet模型，提取出p五、或者f六、f7的特征，做为特征向量，而后进行训练svm，只不过这样精度会比较低。那么问题又来了，没有fine-tuning的时候，要选择哪一层的特征做为cnn提取到的特征呢？咱们有能够选择p五、f六、f7，这三层的神经元个数分别是921六、409六、4096。从p5到p6这层的参数个数是：4096*9216 ，从f6到f7的参数是4096*4096。那么具体是选择p五、仍是f6，又或者是f7呢？

　　文献paper给咱们证实了一个理论，若是你不进行fine-tuning，也就是你直接把Alexnet模型当作万金油使用，相似于HOG、SIFT同样作特征提取，不针对特定的任务。而后把提取的特征用于分类，结果发现p5的精度居然跟f六、f7差很少，并且f6提取到的特征还比f7的精度略高；若是你进行fine-tuning了，那么f七、f6的提取到的特征最会训练的svm分类器的精度就会飙涨。

　　据此咱们明白了一个道理，若是不针对特定任务进行fine-tuning，而是把CNN当作特征提取器，卷积层所学到的特征其实就是基础的共享特征提取层，就相似于SIFT算法同样，能够用于提取各类图片的特征，而f六、f7所学习到的特征是用于针对特定任务的特征。打个比方：对于人脸性别识别来讲，一个CNN模型前面的卷积层所学习到的特征就相似于学习人脸共性特征，而后全链接层所学习的特征就是针对性别分类的特征了。

　　还有另一个疑问：CNN训练的时候，原本就是对bounding box的物体进行识别分类训练，是一个端到端的任务，在训练的时候最后一层softmax就是分类层，那么为何做者闲着没事干要先用CNN作特征提取（提取fc7层数据），而后再把提取的特征用于训练svm分类器？这个是由于svm训练和cnn训练过程的正负样本定义方式各有不一样，致使最后采用CNN softmax输出比采用svm精度还低。

　　事情是这样的，cnn在训练的时候，对训练数据作了比较宽松的标注，好比一个bounding box可能只包含物体的一部分，那么我也把它标注为正样本，用于训练cnn；采用这个方法的主要缘由在于由于CNN容易过拟合，因此须要大量的训练数据，因此在CNN训练阶段咱们是对Bounding box的位置限制条件限制的比较松(IOU只要大于0.5都被标注为正样本了)；

　　然而svm训练的时候，由于svm适用于少样本训练，因此对于训练样本数据的IOU要求比较严格，咱们只有当bounding box把整个物体都包含进去了，咱们才把它标注为物体类别，而后训练svm，具体请看下文。

 

 

 

6、SVM训练、测试阶段

　　这是一个二分类问题，我么假设咱们要检测车辆。咱们知道只有当bounding box把整量车都包含在内，那才叫正样本；若是bounding box 没有包含到车辆，那么咱们就能够把它当作负样本。但问题是当咱们的检测窗口只有部分包好物体，那该怎么定义正负样本呢？做者测试了IOU阈值各类方案数值0,0.1,0.2,0.3,0.4,0.5。最后咱们经过训练发现，若是选择IOU阈值为0.3效果最好（选择为0精度降低了4个百分点，选择0.5精度降低了5个百分点）,即当重叠度小于0.3的时候，咱们就把它标注为负样本。一旦CNN f7层特征被提取出来，那么咱们将为每一个物体累训练一个svm分类器。当咱们用CNN提取2000个候选框，能够获得2000*4096这样的特征向量矩阵，而后咱们只须要把这样的一个矩阵与svm权值矩阵4096*N点乘(N为分类类别数目，由于咱们训练的N个svm，每一个svm包好了4096个W)，就能够获得结果了。

　　OK，就讲到这边吧，懒得打字了，打到手酸。

 

 

我的总结

　　学习这篇文献最大的意义在于做者把本身的试验过程都讲的很清楚，可让咱们学到很多的调参经验，真的是很佩服做者背后的思考。由于文献很长、细节很是之多，本人也对物体检测不感兴趣，只是随便看看文献、学学算法罢了，因此不少细节没有细看，好比7.3 bounding box的回归过程；最后看这篇文献好累、十几页，细节一大堆，包含做者各类实验、思考……

 

 

 

 

参考文献：

一、《Rich feature hierarchies for Accurate Object Detection and Segmentation》

二、《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》

**********************做者：hjimce   时间：2015.12.3  联系QQ：1393852684  原创文章，转载请保留原文地址、做者等信息***************