1. 一元高斯分布

高斯分布（一般指一元高斯分布）又称为正态分布，是常见的连续概率分布。
假设随机变量X~ $N(\mu,\sigma^2)$ ，则称变量X服从均值为 $\mu$ ，方差为 $\sigma^2$ 的正态分布。如X代表高三一班的数学成绩，则表明高三一班n名同学的数学成绩均值为 $\mu$ ，方差为 $\sigma^2$ 。
高斯分布的概率密度函数为：
$f(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$
正态分布的概率密度函数为钟形，因为被称为钟形曲线。标准正态分布是位置参数 $\mu=0$ ，尺度参数 $\sigma^2=1$ 的正态分布。
在这里插入图片描述
高斯分布的重要性质：

密度函数关于平均值对称
平均值与他的众数、中位数为同一值
函数曲线下68.268949%的面积在平均数左右的一个标准差范围内
95.449974%的面积在平均数左右两个标准差 $2 \sigma$ 的范围内
99.730020%的面积在平均数左右三个标准差 $3 \sigma$ 的范围内
函数曲线的拐点（inflection point）为离平均数一个标准差距离的位置。

2. 多元高斯分布

2.1 独立多元正态分布

假设n个变量 $X=[X_1, X_2,...,X_n]$ 互不相关，且服从正态分布（维度不相关多元正态分布），各个维度的均值 $E(X)=[\mu_1, \mu_2,..., \mu_n]^T$ ，标准差为 $\sigma(X)=[\sigma_1, \sigma_2, ..., \sigma_n]^T$ 。
联合概率密度公式：(独立分布假设下)
$f(x)=p(x_1, x_2,...x_n)=p(x_1)p(x_2)...p(x_n)=\frac{1}{\sqrt2\pi \sigma_1\sigma_2...\sigma_n}e^{-\frac{(x_1-\mu_1)^2}{2\sigma_1^2}-\frac{(x_2-\mu_2)^2}{2\sigma_2^2}-...-\frac{(x_n-\mu_n)^2}{2\sigma_n^2}}$
如果令 $\sigma_1\sigma_2...\sigma_n=\sigma_z$
$\frac{(x_1-\mu_1)^2}{\sigma_1^2}+\frac{(x_2-\mu_2)^2}{\sigma_2^2}+...+\frac{(x_n-\mu_n)^2}{\sigma_n^2}=z^2$
那么独立多元高斯分布的密度函数可以简写如下：
$f(x)=\frac{1}{(\sqrt{2\pi})^n\sigma_z}e^{-\frac{1}{2}z^2}$
对上述做一个小结：
在这里插入图片描述

在这里插入图片描述
此外，多元独立高斯分布还有明显的几何思想，可以从矩阵的角度考虑

将以上等式做变量替换：

对角阵的行列式=对角元素相乘，因此
$\sigma_z = |\sum|^{\frac{1}{2}}=\sigma_1\sigma_2...\sigma_n$
替换变量后，等式可以简写为：
$z^Tz=(x-\mu_x)^T\sum^{-1}(x-\mu_x)$
在这里插入图片描述