MCMC抽样与LDA关系？
也许读者会觉得诧异，为什么在一本介绍主题模型的书中却看到了抽样的知识？作者是不是偏题了？
答案当然是没有。
相信你应该听说过有一门课程叫做统计学，在这门课程中，抽样占据着举足轻重的地位。当统计学的研究者们想要了解一个总体的某些参数时，他们的方案是，先去抽样获得样本，通过样本参数去估计总体参数。比如，想知道某财经高校学生们（总体）的平均月消费水平（总体参数），做法是：a.先抽样一部分样本，如从每个学院抽取20个人去调查他们的月消费水平，假设有20个学院，那么就获得了400个人（样本）的月消费水平；b.算出这400个样本的平均月消费水平（样本参数）；c.可以认为该财经高校学生们的平均月消费水平估计为这400个样本的平均月消费水平。
本篇的MCMC抽样与LDA主题模型的关系类比统计学里的抽样。在LDA主题模型的参数求解中，我们会使用MCMC抽样去做。
MCMC四个字母的含义
第一个MC ，是Monte Carlo(蒙特卡洛)的首字母缩写。本篇的蒙特卡洛指一种随机模拟方法，以概率和统计理论方法为基础的一种计算方法，是使用随机数（或更常见的伪随机数）来解决很多计算问题的方法。采样过程通常通过计算机来来实现。
蒙特卡洛此名由乌拉姆提出，事实上蒙特卡洛是摩纳哥公国的一座城市，是著名的赌场，世人称之为“赌博之国”。众人皆知，赌博总是和统计密切关联的，所以这个命名风趣而贴切、不仅有意思而且有意义。
第二个MC：Markov Chain(马尔科夫链)。这是MCMC抽样中很重要的一个思想，将会在后篇细讲。
逆变换采样
刚刚有提到，蒙特卡洛指一种随机模拟方法，通常通过计算机来实现。然而，从本质上来说，计算机只能实现对均匀分布的采样。在此基础上对更为复杂的分布进行采样，应该怎么做呢？这就需要用到逆变换采样：
温故两个定义
对于随机变量 X，如下定义的函数 F：
F(x)=P{X≤x},−∞