神经网络：
- 反向传播：李宏毅机器学习课程第七节（使用caffe的python layer时候，关于反向传播的部分理解的不好，就去找了一下，这个视频真的挺棒的，关于梯度的求法，forward和backward上说的很详细，也很适合为caffe的python layer写反向传播做铺垫） 哔哩哔哩上目前有教程：点击打开链接
- 卷积：接触过高斯模糊的朋友应该都知道，卷积在某种意义上相当于一种滤波器。最近在详细的了解Caffe中如何进行卷积操作时，看到知乎上一种关于从投影的方向理解卷积的介绍，对于理解神经网络多核卷积生成feature map有很大的帮助。
“ 另一种理解是投影，因为当前模板内部图像和模板的相乘累加操作就是图像局部patch和模板的内积操作，如果把patch和模板拉直，拉直的向量看成是向量空间中的向量，那么这个过程就是patch向模板方向上的投影，一幅图像和一个模板卷积，得到的结果就是图像各个patch在这个方向上的response map或者feature map；如果这样的模板有一组，我们可以把这一组看成一组基，得到的一组feature map就是原图像在这组基上的投影。常见的如用一组Garbor滤波器提取图像的特征，以及卷积神经网络中的第一层，图像在各个卷积核上的投影。 ” 【来源】