机器学习理论基础学习7---指数族分布

一、背景

指数族分布有：高斯分布、伯努利分布、二项分布、泊松分布、beta分布、Dirichlet分布、gamma分布等

指数族分布有6大性质：

• 充分统计量
• 共轭
• 最大熵
• 广义线性模型
• 概率图模型
• 变分推断

二、高斯分布的指数族形式

三、对数配分函数与充分统计量的关系

四、极大似然估计与充分统计量

五、指数族分布-最大熵角度（1）

六、指数族分布-最大熵角度（2）