CNN -卷积神经网络

CNN -卷积神经网络

CNN -卷积神经网络 自己的理解，有不对的地方，欢迎指正。

初初接触（卷积核）有如下疑问：

1. 为什么要有它？，卷积神经网络中，每个隐层节点只连接到图像某个足够小局部的像素点上，从而大大减少需要训练的权值参数。
2. 存在的意思是什么？
3. 为什么可以提取特征？
4. 这种提取的方式是如何发现的？

卷积 公式：
$\int_{-\infty}^{+\infty} f(\tau)g(x-\tau) \, {\rm d}\tau$

公式参考：

1. 使用 \int_积分下限^积分上限 \, {被积表达式}来输入一个积分 $\int_{2}^{3} {x^2} \, {\rm d}x$
2. τ[\tau] 的输入， 矩阵 的输入
   
   
   
   

通俗理解 卷积运算：

CNN 入门讲解：什么是卷积（Convolution）?
它的物理意义大概可以理解为：系统某一时刻的输出是由多个输入共同作用（叠加）的结果。 这句我看了n多个文章才能看懂在说啥。。。

目前只是初步了解了，为什么可以提取特征

如图，
原图：
$\begin{matrix} 1 & 1 & 1 & 0 & 0 \\ 0 & 1 & 1 & 1 & 0 \\ 0 & 0 & 1 & 1 & 1 \\ 0 & 0 & 1 & 1 & 0 \\ 0 & 1 & 1 & 0 & 0 \end{matrix}$
卷积核：
$\begin{matrix} 1 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 1 \end{matrix}$

原图 5x5，卷积核 3x3，得到 3x3 的特征
若仅取左上角 3x3区域，即 原图3x3，卷积核3x3，得到1x1的特征 4，
若仅取左下角 3x3区域，即 原图3x3，卷积核3x3，得到1x1的特征 2
得到的特征区域大小 = （5-3+1）*（5-3+1）==> （3x3）

以上2图均来自于：CNN初学者—从这入门

为什么要有它？

1. 卷积神经网络中，每个隐层节点只连接到图像某个足够小局部的像素点上
2. 通过卷积操作，把 全连接变成局部连接

这是原因么？

存在的意义：

以最少的代价，使神经网络获得最好的准确率

• 卷积层 负责 特征 提取；
• 卷积层 负责 特征 选择；
• 全连接层 负责 分类；

图片来源：CNN入门讲解：如何理解卷积神经网络的解构, 文末的吃甘蔗例子好搞笑，哈哈哈哈。

池化：

图片来源：深度学习中卷积和池化的一些总结

最后补充 卷积 与 池化的区别：

都是将一个区域中的信息压缩成一个值，完成信息的抽象

卷积：

• 卷积像筛子，只有满足 条件（激活值越大越符合条件）的部分筛选出来
• 保留了某些 特征

池化：

• 抽取信息，降低计算量
• 20x20 进行10x10 的池化，得到2x2的
• 最简单的池化 演示

$\begin{matrix} 1 & 1 & 1 & 0 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & 1 & 1 \\ 0 & 1 & 1 & 0 \end{matrix}$，2x2的池化，取右下角元素，得到2x2的信息：
$\begin{matrix} 1 & 1 \\ 1 & 0 \end{matrix}$