常用卷积神经网络

卷积神经网络"/>

常用卷积神经网络

LeNet、AlexNet和VGG在设计上的共同之处是：先以由卷积层构成的模块充分抽取空间特征，再以由全连接层构成的模块来输出分类结果。AlexNet和VGG对LeNet的改进主要在于如何对这两个模块加宽(增加通道数)和加深。而NiN意为网络中的网络，通过串联多个由卷积层和“全连接层”构成的小网络来构建一个深层网络。

1、NiN块

NiN块是NiN中的基础块。它由一个卷积层加两个充当全连接层的1 × 1卷积层串联而成。其中第一个卷积层的超参数可以自行设置，而第二和第三个卷积层的超参数一般是固定的。 卷积层的输入和输出通常是四维数组(样本，通道，高，宽)，而全连接层的输入和输出则通常是二维数组(样本，特征)。如果想在全连接层后再接上卷积层，则需要将全连接层的输出变换为四维。1*1卷积层可以看成全连接层，其中空间维度(高和宽)上的每个元素相当于样本，通道相当于特征。因此，NiN使用1 × 1卷积层来替代全连接层，从而使空间信息能够自然传递到后面的层中去。

2、NiN同AlexNet和VGG等网络在结构上的主要区别

3、NiN模型

NiN是在AlexNet问世不久后提出的。NiN使用卷积窗口形状分别 为11 × 11、5 × 5和3 × 3的卷积层，相应的输出通道数也与AlexNet中的一致。每个NiN块后接一 个步幅为2、窗口形状为3 × 3的最大池化层。NiN去掉了AlexNet最后的3个全连接层，取而代之地，NiN使用了输出通道数等于标签类别数的NiN块，然后使用全局平均池化层对每个通道中所有元素求平均并直接用于分类。这里的全局平均池化层即窗口形状等于输入空间维形状的平均池化层。NiN的这个设计的好处是可以显著减小模型参数尺寸，从而缓解过拟合。