入门链接：
https://www.cnblogs.com/AndyJee/p/4973670.html
https://blog.csdn.net/qq_42570457/article/details/82179065
https://zhuanlan.zhihu.com/p/22445302
科普链接：http://www.cvchina.info/2010/06/08/compressed-sensing-2/
大量相关论文链接：http://dsp.rice.edu/cs/
小波与傅里叶变换：https://zhuanlan.zhihu.com/p/22450818
课程资源：
（An Introduction to Compressed Sensing （斯坦福课程，可根据syllabus分块啃食））：http://statweb.stanford.edu/~candes/stats330/index.shtml
斯坦福大学Emmanuel Candes教授：压缩感知 video2：http://videolectures.net/mlss09us_candes_ocsssrl1m/
代码：
百度搜索CS_OMP.rar或者Wavelet_OMP.zip
1 正交匹配算法为信号重建，沙威，CS_OMP.rar
2 图像压缩传感通过正交匹配追踪和正交小波变换，沙威，Wavelet_OMP.zip
Michael P. Friedlander的代码:https://www.cs.ubc.ca/~mpf/software.html
压缩感知（CS，compressed sensing又称compressed sampling）核心思想，按照abcde顺序恢复：
接下来的关键在于，信号该如何恢复？ 下面讲一种典型的算法（匹配追踪）：
(1) 由于原信号的频率非零值在亚采样后的频域中依然保留较大的值，其中较大的两个可以通过设置阈值，检测出来（图a）。
(2) 然后，假设信号只存在这两个非零值（图b），则可以计算出由这两个非零值引起的干扰（图c）。
(3) 用a减去c，即可得到仅由蓝色非零值和由它导致的干扰值(图d），再设置阈值即可检测出它，得到最终复原频域（图e）
(4) 如果原信号频域中有更多的非零值，则可通过迭代将其一一解出。
以上就是压缩感知理论的核心思想——以比奈奎斯特采样频率要求的采样密度更稀疏的密度对信号进行随机亚采样，由于频谱是均匀泄露的，而不是整体延拓的，因此可以通过特别的追踪方法将原信号恢复。
压缩感知问题就是在已知测量值y和测量矩阵Φ的基础上，求解欠定方程组y=Φx得到原信号x。
然而，一般的自然信号x本身并不是稀疏的，需要在某种稀疏基上进行稀疏表示。令x=Ψs，Ψ为稀疏基矩阵，s为稀疏系数。
于是最终方程就变成了：y=ΦΨs。已知y、Φ、Ψ，求解s。
从数学上来说，CS就是在一定的条件下求解欠定(不适定)方程，条件包括x要是稀疏的，测量矩阵要满足RIP条件，那么欠定(不适定)方程就会以很大的概率有唯一解。
好的链接
L0、L1、L2范数正则化：https://www.cnblogs.com/weizc/p/5778678.html
为什么要稀疏？让我们的参数稀疏有什么好处呢？这里扯两点：
1）特征选择(Feature Selection)：
大家对稀疏规则化趋之若鹜的一个关键原因在于它能实现特征的自动选择。一般来说，xi的大部分元素（也就是特征）都是和最终的输出yi没有关系或者不提供任何信息的，在最小化目标函数的时候考虑xi这些额外的特征，虽然可以获得更小的训练误差，但在预测新的样本时，这些没用的信息反而会被考虑，从而干扰了对正确yi的预测。稀疏规则化算子的引入就是为了完成特征自动选择的光荣使命，它会学习地去掉这些没有信息的特征，也就是把这些特征对应的权重置为0。
2）可解释性(Interpretability)：
另一个青睐于稀疏的理由是，模型更容易解释。例如患某种病的概率是y，然后我们收集到的数据x是1000维的，也就是我们需要寻找这1000种因素到底是怎么影响患上这种病的概率的。假设我们这个是个回归模型：y=w1x1+w2x2+…+w1000x1000+b（当然了，为了让y限定在[0,1]的范围，一般还得加个Logistic函数）。通过学习，如果最后学习到的w就只有很少的非零元素，例如只有5个非零的wi，那么我们就有理由相信，这些对应的特征在患病分析上面提供的信息是巨大的，决策性的。也就是说，患不患这种病只和这5个因素有关，那医生就好分析多了。但如果1000个wi都非0，医生面对这1000种因素，累觉不爱。
凸优化问题
https://www.cnblogs.com/harvey888/p/7100815.html
名词解释
MP(Matching Pursuit):匹配追踪算法（可能进入局部最优）
BP(Basis Pursuit): 基追踪原则（全局最优特性）
SPG(Spectral Projected Gradient, SPG):谱投影梯度
OMP(Orthogonal Matching Pursuit):正交匹配追踪算法