卷积
\[y_{t}=\sum_{k=1}^{m} w_{k} \cdot x_{t-k+1} \]
一幅图像在经过卷积操作后得到结果称为特征映射（Feature Map）。
互相关和卷积的区别在于卷积核仅仅是否进行翻转。
卷积层的神经元数量
卷积神经网络
卷积层
\[n^{(l)}=n^{(l-1)}-m+1 \]
典型的卷积网络结构
几种典型的卷积神经网络
Inception 网络
一个卷积层包含多个不同大小的卷积操作，称为 Inception 模块。
Inception 模块同时使用 \(1 × 1\)、\(3 × 3\)、\(5 × 5\) 等不同大小的卷积核，并将得到的特征映射在深度上拼接（堆叠）起来作为输出特征映射。
Inception 模块在进行 \(3 × 3\)、\(5 × 5\) 的卷积之前、\(3 × 3\)的最大汇聚之后，进行一次 \(1×1\) 的卷积来减少特征映射的深度。如果输入特征映射 之间存在冗余信息，\(1 × 1\)的卷积相当于先进行一次特征抽取。
ResNet
\[h(\mathbf{x})=\mathbf{x}+(h(\mathbf{x})-\mathbf{x}) \]
让非线性单元 \(f(\mathbf{x}, \theta)\) 去近似残差函数\(h(\mathbf{x})−\mathbf{x}\)
其他卷积方式
转置卷积：用小图片和大卷积核生成特征映射，将低维特征映射到高维特征
微步卷积：给图片插入 0
空洞卷积：给卷积核插入 0