Very Deep Convolutional Networks for Large-Scale Image Recognition
转载请注明：http://blog.csdn.net/stdcoutzyx/article/details/39736509
这篇论文是今年9月份的论文[1]，比較新，当中的观点感觉对卷积神经网络的參数调整大有指导作用，特总结之。关于卷积神经网络(Convolutional Neural Network, CNN)，笔者后会作文阐述之，读者若心急则或可用谷歌百度一下。
本文下面内容即是论文的笔记，笔者初次尝试对一篇论文提取重点做笔记，若有不足之处请阅读原文者指出。
1. Main Contribution
- 考察在參数总数基本不变的情况下，CNN随着层数的添加，其效果的变化。
- 论文中的方法在ILSVRC-2014比赛中获得第二名。
- ILSVRC——ImageNet Large-Scale Visual Recongnition Challenge
2. CNN improvement
在论文[2]出现以后，有非常多对其提出的CNN结构进行改进的方法。比如：
- Use smaller receptive window size and smaller stride of the first convolutional layer.
- Training and testing the networks densely over the whole image and over multiple scales.
3. CNN Configuration Principals
- CNN的输入都是224×224×3的图片。
- 输入前唯一的预处理是减去均值。
- 1×1的核能够被看成是输入通道的线性变换。
- 使用较多的卷积核大小为3×3。
- Max-Pooling 一般在2×2的像素窗体上做，with stride 2。
- 除了最后一层全连接的分类层外，其它层都须要使用rectification non-linearity(RELU)。
- 不须要加入Local Response Normalization(LRN)，由于它不提升效果反而会带来计算花费和内存花费，添加计算时间。
4. CNN Configuration
- 卷积层的通道数目（宽度）从64，每过一个max-pooling层翻倍，到512为止。
- Use filters with 3×3 size throughout the whole net, because a stack of two 3×3 conv layers (without spatial pooling in between) has an effective receptive of 5×5, and three a stack of 3×3 conv layers has a receptive of 7×7, and so on.
- 为甚么使用三层3×3取代一层7×7？
- 第一，三层比一层更具有判别性；
- 第二，如果相同的通道数C，那么三层3×3的參数数目为3×(3×3)C×C=27C×C，一层7×7參数数目为7×7×C×C=49C×C。大大降低了參数数目。
-
使用1*1的卷积核能够在不影响视野域的情况下添加判别函数的非线性。该核能够用于“Network in Network”网络结构，能够參考论文的參考文献12。
-
图1是论文中实验使用的神经网络结构，能够看到，CNN的层数从11层到19层，结构符合上面的总结的点。图2则是各个CNN的參数总数，能够看到，尽管深度变化了，可是參数数目变化不大。
5. Training
- 除了使用multiple scale之外，论文[1]实验基本都follow论文[2]的设置。batch size是256，momentum是0.9，正则化系数是5×10e-4，前两层全连接的dropout參数设置为0.5，学习步长初始化为10e-2，且当验证集结果不再上升时步长除以10，除三次为止。学习了370K迭代(74 epochs)时停止。
- 论文猜測，本文的网络比原来的网络要更easy收敛，原因有二：
- Implicit regularization imposed by greater depth and smaller conv filter sizes
- Pre-initialisation of certain layers. 先训练浅层网络，如图中的A网络，得到參数后，当训练更深的网如E时，使用A中得到的參数初始化相应的层，新层的參数则随机初始化。须要注意的是，使用这种方式进行初始化，不改变步长。
- 224×224输入的获得，将原始图片等比例缩放，保证短边大于224，然后随机选择224×224的窗体，为了进一步data augment，还要考虑随机的水平仿射和RGB通道切换。
- Multi-scale Training， 多尺度的意义在于图片中的物体的尺度有变化，多尺度能够更好的识别物体。有两种方法进行多尺度训练。
- 在不同的尺度下，训练多个分类器，參数为S，參数的意义就是在做原始图片上的缩放时的短边长度。论文中训练了S=256和S=384两个分类器，当中S=384的分类器的參数使用S=256的參数进行初始化，且将步长调为10e-3。
- 还有一种方法是直接训练一个分类器，每次数据输入时，每张图片被又一次缩放，缩放的短边S随机从[min, max]中选择，本文中使用区间[256,384]，网络參数初始化时使用S=384时的參数。
6. Testing
測试使用例如以下步骤：
- 首先进行等比例缩放，短边长度Q大于224，Q的意义与S同样，只是S是训练集中的，Q是測试集中的參数。Q不必等于S，相反的，对于一个S，使用多个Q值进行測试，然后去平均会使效果变好。
- 然后，依照本文參考文献16的方式对測试数据进行測试。
- 将全连接层转换为卷积层，第一个全连接转换为7×7的卷积，第二个转换为1×1的卷积。
- Resulting net is applied to the whole image by convolving the filters in each layer with the full-size input. The resulting output feature map is a class score map with the number channels equal to the number of classes, and the variable spatial resolution, dependent on the input image size.
- Finally, class score map is spatially averaged(sum-pooled) to obtain a fixed-size vector of class scores of the image.
7. Implementation
- 使用C++ Caffe toolbox实现
- 支持单系统多GPU
- 多GPU把batch分为多个GPU-batch，在每一个GPU上进行计算，得到子batch的梯度后，以平均值作为整个batch的梯度。
- 论文的參考文献[9]中提出了非常多加速训练的方法。论文实验表明，在4-GPU的系统上，能够加速3.75倍。
8. Experiments
共进行三组实验：
8.1 Configuration Comparison
使用图1中的CNN结构进行实验，在C/D/E网络结构上进行多尺度的训练，注意的是，该组实验的測试集仅仅有一个尺度。例如以下图所看到的：
8.2 Multi-Scale Comparison
測试集多尺度，且考虑到尺度差异过大会导致性能的下降，所以測试集的尺度Q在S的上下32内浮动。对于训练集是区间尺度的，測试集尺度为区间的最小值、最大值、中值。
8.3 Convnet Fusion
模型融合，方法是取其后验概率预计的均值。
融合图3和图4中两个最好的model能够达到更好的值，融合七个model会变差。
9. Reference
[1]. Simonyan K, Zisserman A. Very Deep Convolutional Networks for Large-Scale Image Recognition[J]. arXiv preprint arXiv:1409.1556, 2014.
[2]. Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems. 2012: 1097-1105.