由于经常要用到一些概率统计的公式，为了巩固下这方面的知识索性在这里简单复习下。
关于马尔科夫不等式，形如，其中
表示随机变量
的非负函数，证明也不是很困难，
，此处
由此可得
接着，通过设定特殊的函数和
，我们可以直接得到切比雪夫不等式：
,代入马尔可夫不等式，直接得到
（切比雪芙不等式），就工程应用来看，切比雪夫不等式在获得模型评估上界的时候比较有用。
最后是詹生不等式，也是比较通用的定理：
,一般通过这个不等式可以将问题进行转换。这个公式的证明可以使用泰勒公式通关，展开到二阶泰勒公式就能得到，所以
函数的前提必须是凸的。
好吧，又扯到凸函数了，之前在考试的时候想破脑袋要证明一个多元参数的矩阵函数为凸函数，导致现在还有阴影，其实简单来说凸函数就是满足,当然反过来称之为凹。这里得注意了，不同的教材有不同的凹凸函数的定义，而且貌似目前并没有国际的统一标准定义，先就这样吧，以后需要研究凸优化的时候再一个个列出来。
常用到的公式目前先写这几个，下次继续水一点。