本文已收录于机器学习笔记系列，共计 20 篇，本篇是第 19 篇

本文已收录到：机器学习笔记专题

文章目录 隐藏

3.1 选择两个3×3的还是一个5×5的卷积核呢？

4 补充：全零填充——padding补0

5 批标准化（Batch Normalization）

卷积

卷积计算是一种有效的特征提取方法，卷积核可以有效提取图像特征。
一般会用一个正方形的卷积核，按指定步长，在输入特征图上滑动，遍历输入特征图中的每个像素点。每一个步长，卷积核会与输特征图出现重合区域，重合区域对应元素相乘、求和再加上偏置得到输出特征的一个像素点。

卷积核的选取

卷积核的值是给定的，然后通过反向传播来更新这些值。

如果输入的特征是单通道灰度图（左），使用3x3x1的卷积核；如果是三通道的彩色图则使用3x3x3的卷积核，或者是5x5x3的卷积核。

要使得卷积核的深度与输入特征图的深度一致。

每个卷积核中的每个颗粒存储着卷积核提供的默认的带待训练的参数，在每次反向传播时，会被梯度下降法更新。

卷积核的个数就是特性图的个数

每个卷积核都有一个偏置参数。Ps：在caffe和tensorflow模块中都有选项供选择是否含有偏置。

针对不同的特征，会有不同卷积核（可参考opencv中提供了哪些卷积核）。

Ps：

卷积核的值不用算，针对不同问题，可选专门的卷积核。
卷积核的参数是待训练的参数，初始化的时候可以随机生成。
值是给定的，然后通过反向传播来更新这些值。

共享权重

卷积就是利用立体卷积核实现参数空间共享。

卷积神经网络可以看作多层共享权重的神经网络。

卷积计算过程

计算方法：一般会用一个正方形的卷积核，按指定步长，在输入特征图上滑动，遍历输入特征图中的每个像素点。每一个步长，卷积核会与输入特征图出现重合区域，重合区域对应元素相乘、求和再加上偏置项得到输出特征的一个像素点。

对于每一个卷积核，要有一个单独的偏置（b1 b2 b3 b4）。请注意移动的步伐也是有步长的。卷积核的个数也可以有多个。

eg：使用一个3x3x1的卷积核对5x5x1的图像卷积计算：

对于三通道数据：

使用3x3x3通道的卷积核，滑动步长为1。

如果有n张卷积核，那就会输出n张特征图。

补充：输出特征图长宽计算公式

输入图片为5×5，卷积核为3×3，假设步长为1，得到的输出特征图为3×3。总结出下面的计算公式：

补充：感受野

卷积神经网络各输出层每个像素点在原始图像上的映射区域大小。野就是“视野”，输出收到多大输入范围的影响，就说它的“视野”有多大，也就是特征保留的范围有多大。

如上图所示，用一个3×3的卷积核对一个5×5的输入特征图进行卷积计算，得到的输出特征图是一个3×3的，映射到原始输入图片是一个3×3的区域，所以他的感受野是3。再用一个绿色的3×3卷积核再次对3×3图像进行卷积，得到一个1×1的输出特征图，这个特征图映射到原始图像（最左边的图）是一个5×5的区域，所以他的感受野为5。