关于流形学习的重建问题

1，前馈网络是什么？反向传播，反向求导？之间的关系是什么？

  参考链接：https://blog.csdigen.net/tiandijun/article/details/21822733

前馈神经网络就是根据一个公式，然后输入，就可以得到输出,他是一种没有反馈的网络。在这个过程中得到的是每一层的激活值。并且在文章中给出了，使用不同的函数的时候，建议使用的参考数值。前馈网络是没有反馈的，单向的

反向传播，就是通过是代价函数最小化达到是求出W核b的作用，其中使用了求导。

2，关于网络的训练，什么是必要的，是不是有了卷积层和激活层就可以了？还是说一定要加上分类的那一层？

      关于matlab的trainnetwork（）函数的使用。。。查看一下。

3，对于反卷积实现的图像的复原的基本原理，以及实现，找一个尝试一下

4，关于regression layer，为什么要在卷积层的后面加上regression layer呢？之前的网络是怎么做的呢？

参考链接：https://wenku.baidu.com/view/4000a1cc85868762caaedd3383c4bb4cf7ecb7ef.html（值得看）

关于BN的介绍：https://www.jianshu.com/p/4270f5acc066

（这个里面有大量的文章，了解到可以在github上看别人的作业https://github.com/xiaia/cs231n_2016_winter）

https://www.cnblogs.com/neopenx/p/4575527.html（有点废）

看一下这个：https://ww2.mathworks.cn/help/deeplearning/ug/define-custom-regression-output-layer.html?searchHighlight=define%20a%20custom%20regression%20layer&s_tid=doc_srchtitle

收集一个链接：https://blog.csdn.net/wxystyle/article/details/79360274

新get一个链接：https://zhuanlan.zhihu.com/p/41138014