MCMC_关键概念理解

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/arcers/article/details/88778795

• 关于概念和符号，参考前文：MCMC_方法示例
• 以下是个人在理解MCMC方法中遇到的疑惑，以及个人的见解。

问题一

回顾如下公式，既然对于 $\alpha(i,j)$我们将之理解为从一条马氏链过渡到另一条马氏链的跳转率（也作接受率），并且实际操作中是通过物理过程：从均匀分布中抽样这个动作来实现的。那么式中的 $q(i,j)$，作为转移矩阵中的一个点，它也是一个取值于（0,1）的概率值，它的作用形式是怎样的？
$p(i)q(i,j)\alpha(i,j)=p(j)q(j,i)\alpha(j,i)$

解答

回顾实际采样过程：

• a 用X表示由MCMC过程产生的状态向量， $Q_0$表示状态转移矩阵（ $D_0$表示抽样分布）。初始化 $X_0=x_0$，其中 $x_0$是从状态集（分布）中获取的随机样本。
• b 对 $t = 0, 1, 2, \cdots,n$重复如下步骤进行采样：
  • b-1 第 $t$时刻有 $X_t=x_t$, 采样 $y\sim q(x|x_t)$(此时状态转移矩阵为 $Q_t=q(x|x_t)$)。
  • b-2 从 $U(0,1)$中抽取一个样本点 $u$
  • b-3 如果 $u<\alpha(x_t, y)=min(\frac{p(j)q(j,i)}{p(i)q(i,j)},1)$则接受转移 $X_{t+1}=y$
  • b-4 否则拒绝转移， $X_{t+1}=x_t$, $Q_{t+1} = Q_t$

其中b-1步中获得的样本 $y$是从条件分布 $q(x|x_t)$中随机抽样的。因此实现 $q(i,j)$发生作用的物理过程就是在这一步中所进行的随机抽样。

问题二

为什么在解读 $\alpha(i, j)$的时候要把它理解为一个物理过程？

解答

这实际上是要理解概率之于样本或者抽样过程的关系。

• 概率是对所描述事物随机性的度量，是“描述”，是写在纸上的概率规则。
• 抽样过程是从分布中依照概率获取真实样本的过程，其结果是确定的样本，是“实体”，因此可看做物理过程。

由于抽样过程的结果是实实在在的样本，它并不是一个概率值，例如：

• 对于抛硬币的实验而言，每一次抛掷得到的结果是确定的正或反，即使从数学上每一面向上的概率不同，但每一次实验的结果也不可能是一个概率值。
• 同样在通过马氏链进行的抽样中，即便能够直接给出稳态分布，但是要获取哪怕一个样本都要通过随机的方式进行物理抽样的。对于前文中马氏链部分的细节，即使知道了媳妇儿有0.613的概率不在“愤怒”状态，但正真见着她时，她必定是处于一个确定的心情状态的，这个时候如果要做一个预判的话，那就进行一次随机抽样把抽样结果当做“上帝的指示”。

• “于是每天携带一块秒表，进门前按下并读取毫秒数。如果数值小于0.613放心大胆进门，否则等15分钟再按一次。”

问题三

如何理解拒绝跳转这一现象？我们知道如果发生一次拒绝跳转，就把上一次抽样结果当做本次抽样结果放到抽样链里去。相当于该样本重复了一次，那么在最后得到的样本中是否要去除这些重复的样本（或者说只取连续游程中的第一个）？

解答

假设状态集合为 $S=[s_1, s_2, s_3]$,满足细致平稳条件的 $Q\prime$的矩阵结构如下式所示，可知由于乘以 $\alpha(i,j)$而丢失的概率质量全部转移到了对角线上，相当于放大了状态转移到自己的概率。而这会降低马氏链收敛到稳态的速度。
$Q\prime=Q\cdot A= \\ \left\{ \begin{matrix} 1-\sum_{j=1}^3 p(1,j)\alpha(1,j) & p(1,2)\alpha(1,2) & p(1,3)\alpha(1,3) \\ p(2,1)\alpha(2,1) & 1-\sum_{j=1}^3 p(2,j)\alpha(2,j) & p(2,3)\alpha(2,3) \\ p(3,1)\alpha(3,1) & p(3,2)\alpha(3,2) & 1-\sum_{j=1}^3 p(3,j)\alpha(3,j) \end{matrix} \right\}$

假设t-1步链上的样本为 $s^{(t-1)}=s_1$，同时t步已抽取样本 $s^t=s_2$,则此时 $Q\prime|s^t=s_2$具有如下形式，由下式可知这就是跳转的真实过程。

$Q\prime|(s^{(t-1)} = s_1,s^t=s_2)=(Q\cdot A)|(s^{(t-1)} = s_1,s^t=s_2)$

$= \left\{ \begin{matrix} (1-\sum_{j=1}^3 p(1,j)\alpha(1,j))|_t & (p(1,2)\alpha(1,2))|_t & (p(1,3)\alpha(1,3))|_t \\ \dots & \dots & \dots \\ \dots & \dots & \dots \end{matrix} \right\} \\$

$=\left\{ \begin{matrix} 1-p(1,2)\alpha(1,2) & p(1,2)\alpha(1,2) & 0 \\ \dots & \dots & \dots \\ \dots & \dots & \dots \end{matrix} \right\}$

问题四

如何确定Burn-In过程的长度，即：该舍弃多少次抽样？

解答

视问题复杂度，由于 $\alpha(i,j)$的存在延长了抽样过程中马氏链收敛到稳态时间。