本章最重要的概念就是马尔可夫性. 马尔可夫性是指变量的状态只与其前一个时刻的状态有关, 而与其他的状态无关, 称为 “无后效性” . 这里可以作一个拓展, 即指变量的状态只与其周围的变量状态有关, 这里的 ‘周围’ 既可以是时间也可以是空间.
隐马尔可夫模型包括两条链, 一条是由可观测的状态组成的, 一条是由不可观测的状态 (隐变量) 组成的. 那么究竟是什么呢, 我们举个例子.
假设每天的天气只与前一天的天气有关. 比如今天如果是晴天, 那么明天有
70
%
70\%
7 0 %
30
%
30\%
3 0 %
50
%
50\%
5 0 %
50
%
50\%
5 0 %
1
2
3
4
5
6
7
晴
晴
晴
阴
阴
晴
晴
现在假设你有个朋友在国外, 你想要知道他们那边的天气, 但是你只了解你的朋友是在家里还是外出, 并不知道具体天气如何, 而且你还知道假如是晴天, 那么他有
70
%
70\%
7 0 %
30
%
30\%
3 0 %
10
%
10\%
1 0 %
90
%
90\%
9 0 %
1
2
3
4
5
6
7
出去
在家
晴
在家
在家
在家
出去
明链和暗链结合在一起, 就有了隐马尔可夫模型.
[外链图片转存中…(img-13qryRKt-1585888415398)]
以上面的例子来说明.
y
i
y_i
y i
i
i
i
x
i
x_i
x i
i
i
i
A
\boldsymbol A
A
[
0.7
0.3
0.5
0.5
]
\left[\begin{matrix} 0.7&0.3\\ 0.5&0.5 \end{matrix}\right]
[ 0 . 7 0 . 5 0 . 3 0 . 5 ]
B
\boldsymbol{B}
B
[
0.7
0.3
0.1
0.9
]
\left[\begin{matrix} 0.7&0.3\\ 0.1&0.9 \end{matrix}\right]
[ 0 . 7 0 . 1 0 . 3 0 . 9 ]
π
\boldsymbol{\pi}
π
[
1
0
]
\left[\begin{matrix} 1\\0 \end{matrix}\right]
[ 1 0 ]
{
x
1
,
x
2
,
…
}
\{x_1, x_2, \dots\}
{ x 1 , x 2 , … }
当然, 一个确定的模型并不一定能产生确定的结果, 上面的例子只是一种可能结果, 还有其他很多种结果, 出现的概率各不相同.
而隐马尔可夫模型的三个基本问题我们也用例子来说一下:
即我们得到了朋友这一个星期的状态, 那么给定模型
λ
=
[
A
,
B
,
π
]
\lambda = [\boldsymbol{A},\boldsymbol{B} , \boldsymbol{\pi}]
λ = [ A , B , π ]
给定模型
λ
=
[
A
,
B
,
π
]
\lambda = [\boldsymbol{A},\boldsymbol{B} , \boldsymbol{\pi}]
λ = [ A , B , π ]
给出朋友这个星期的状态, 如何调整参数
λ
\lambda
λ
H
a
m
m
e
r
s
l
e
y
−
C
l
i
f
f
o
r
d
\mathrm{Hammersley-Clifford}
H a m m e r s l e y − C l i f f o r d
P
(
x
)
=
1
Z
∏
Q
∈
C
ψ
Q
(
x
Q
)
P(\boldsymbol{\mathrm{x}}) = \frac{1}{Z}\prod_{Q\in \mathcal{C}}\psi_Q(\boldsymbol{\mathrm{x}}_Q)\\
P ( x ) = Z 1 Q ∈ C ∏ ψ Q ( x Q )
若在一个团中加入另外任何一个节点都不再写成团, 则称该团为 “极大团” (maximal); 换言之, 极大团就是不能被其他团所包含的团.
换句话讲就是, 找不到这个团之外的一个结点和这个团中所有结点之间都有边, 那么这个团就是极大团. 可以利用反证法证明: 如果极大团被其他团所包含, 那么根据团的定义, 这个极大团之外还会有一个结点 (该结点在这个极大团之外却在那个包含这个极大团的团之内) 与团中所有节点都有边, 违背了极大团的定义, 因此不成立.
势函数从何而来, 为什么是这样定义? 相信你一开始也和我一脸懵逼. 现在我试着将我所理解的势函数尽我所能表达出来.
势函数本身用来刻画某种 ‘偏好’ . 即你依靠经验认为结点之间应该有某种关系. 比如说你如果认为结点之间的值应该要差不多, 那么当它们的值确实差不多时, 你应该给出更高的分数, 如果他们的值相差较大, 你就应该给出更低的分数. 依靠这样的准则, 就可以构造出一个势函数, 来实现你的给分策略. 势函数的形式不是唯一的, 只不过常用指数函数来定义势函数. 使用指数函数的目的是为了满足非负性 (概率总不可能是负的吧) .
至于势函数和后面提到的特征函数到底有什么根本上的区别… 好吧我也不清楚.
P
(
x
)
=
1
Z
∏
Q
∈
C
ψ
Q
(
x
Q
)
P(\boldsymbol{\mathrm{x}}) = \frac{1}{Z}\prod_{Q\in \mathcal{C}}\psi_Q(\boldsymbol{\mathrm{x}}_Q)\\
P ( x ) = Z 1 Q ∈ C ∏ ψ Q ( x Q )
其中
Z
=
∑
x
∏
Q
∈
C
ψ
Q
(
x
Q
)
Z = \sum_\boldsymbol{\mathrm{x}}\prod_{Q\in\mathcal{C}}\psi_Q(\boldsymbol{\mathrm{x}}_Q)
Z = ∑ x ∏ Q ∈ C ψ Q ( x Q )
∑
x
P
(
x
)
=
1
\sum_\boldsymbol{\mathrm{x}}P(\boldsymbol{\mathrm x}) = 1
∑ x P ( x ) = 1
1
1
1
事实上, 这些 ‘**马尔可夫性’ 成立的前提都在于某个变量只与其相邻变量有关.
简单的来说, 就是两 ‘团’ 变量被中间的 ‘变量墙’ 隔开, 因此具有独立性.
可以形象的认为
n
∗
(
v
)
n^*(v)
n ∗ ( v )
v
v
v
v
v
v
这里说明一个可能不太清楚的点.
令
V
V
V
n
(
v
)
n(v)
n ( v )
v
v
v
n
∗
(
v
)
=
n
(
v
)
∪
{
v
}
n^*(v) = n(v) \cup \{v\}
n ∗ ( v ) = n ( v ) ∪ { v }
x
v
⊥
x
V
\
n
∗
(
v
)
\boldsymbol{\mathrm{x}}_v \perp \boldsymbol{\mathrm{x}}_{V\backslash n^*(v)}
x v ⊥ x V \ n ∗ ( v )
这里的
x
V
\
n
∗
(
v
)
\boldsymbol{\mathrm{x}}_{V\backslash n^*(v)}
x V \ n ∗ ( v )
V
\
n
∗
(
v
)
V\backslash n^*(v)
V \ n ∗ ( v )
V
V
V
n
∗
(
v
)
n^*(v)
n ∗ ( v )
A
\
B
A\backslash B
A \ B
A
A
A
B
B
B
只要两个变量不在同一条边上, 那么就可以将这两个变量完全用其他结点隔离开, 最极端的情况就是把除了这两个变量的节点都当成 ‘墙’ , 这两个变量的周围都是 ‘墙’ , 被这堵墙隔开后, 它们就具有独立性. 这就是成对马尔可夫性. 如果这两个变量在同一条边上, 那么无论是多厚的墙, 两个变量间还是有一条绳子 (边) 连着, 他们仍然不会分离, 不具有成对马尔可夫性.
条件随机场与隐马尔可夫模型、马尔可夫随机场的最主要区别在于条件随机场是判别式模型, 而隐马尔可夫模型和马尔科夫随机场是生成式模型. 顾名思义, 条件随机场就是有 ‘条件’ 的 马尔可夫 ‘随机场’ . 同样基于最大团定义了势函数, 只不过还多引入了一个特征函数.
条件随机场的结构是任意的. 但是一般我们会考虑 “链式条件随机场” (
c
h
a
i
n
−
s
t
r
u
c
t
u
r
e
d
C
R
F
\mathrm{chain-structured\;CRF}
c h a i n − s t r u c t u r e d C R F
[外链图片转存中…(img-5Gx9KNiG-1585888415400)]
特征函数刻画了相邻变量之间的相关关系以及观测序列对它们的影响.
变量消去一般用来求边缘概率 (可以理解为求和的过程可以一个个的 ‘消去’ 变量, 故为变量消去). 如果进行暴力求和来求边缘概率, 那么时间复杂度会达到可怕的
O
(
N
T
)
O(N^T)
O ( N T )
N
N
N
T
T
T
P
(
x
5
)
=
∑
x
4
∑
x
3
∑
x
2
∑
x
1
P
(
x
1
,
x
2
,
x
3
,
x
4
)
=
∑
x
4
∑
x
3
∑
x
2
∑
x
1
P
(
x
1
)
P
(
x
2
∣
x
1
)
P
(
x
3
∣
x
2
)
P
(
x
4
∣
x
3
)
P
(
x
5
∣
x
3
)
\begin{aligned} P(x_5) &= \sum_{x_4}\sum_{x_3}\sum_{x_2}\sum_{x_1}P(x_1, x_2, x_3, x_4)\\ &=\sum_{x_4}\sum_{x_3}\sum_{x_2}\sum_{x_1}P(x_1)P(x_2\mid x_1)P(x_3 \mid x_2)P(x_4 \mid x_3)P(x_5\mid x_3) \end{aligned}
P ( x 5 ) = x 4 ∑ x 3 ∑ x 2 ∑ x 1 ∑ P ( x 1 , x 2 , x 3 , x 4 ) = x 4 ∑ x 3 ∑ x 2 ∑ x 1 ∑ P ( x 1 ) P ( x 2 ∣ x 1 ) P ( x 3 ∣ x 2 ) P ( x 4 ∣ x 3 ) P ( x 5 ∣ x 3 )
上式可以等价的表达为
P
(
x
5
)
=
∑
x
3
P
(
x
5
∣
x
3
)
∑
x
4
P
(
x
4
∣
x
3
)
∑
x
2
P
(
x
3
∣
x
2
)
∑
x
1
P
(
x
1
)
P
(
x
2
∣
x
1
)
P(x_5) = \sum_{x_3}P(x_5\mid x_3)\sum_{x_4}P(x_4 \mid x_3)\sum_{x_2}P(x_3 \mid x_2)\sum_{x_1}P(x_1)P(x_2\mid x_1)
P ( x 5 ) = x 3 ∑ P ( x 5 ∣ x 3 ) x 4 ∑ P ( x 4 ∣ x 3 ) x 2 ∑ P ( x 3 ∣ x 2 ) x 1 ∑ P ( x 1 ) P ( x 2 ∣ x 1 )
(
∑
i
x
i
)
(
∑
j
x
j
)
=
∑
i
(
x
i
∑
j
x
j
)
(\sum_ix_i)(\sum_jx_j) = \sum_i(x_i\sum_jx_j)
( i ∑ x i ) ( j ∑ x j ) = i ∑ ( x i j ∑ x j )
∑
\sum
∑
∑
x
1
P
(
x
1
)
P
(
x
2
∣
x
1
)
\sum_{x_1}P(x_1)P(x_2\mid x_1)
x 1 ∑ P ( x 1 ) P ( x 2 ∣ x 1 )
x
2
x_2
x 2
x
2
x_2
x 2
m
12
(
x
2
)
m_{12}(x_2)
m 1 2 ( x 2 )
x
2
x_2
x 2
∑
x
2
P
(
x
4
∣
x
3
)
\sum_{x_2}P(x_4\mid x_3)
x 2 ∑ P ( x 4 ∣ x 3 )
x
2
x_2
x 2
∑
\sum
∑
x
2
x_2
x 2
∑
x
2
P
(
x
3
∣
x
2
)
m
12
(
x
2
)
\sum_{x_2}P(x_3\mid x_2)m_{12}(x_2)
x 2 ∑ P ( x 3 ∣ x 2 ) m 1 2 ( x 2 )
x
3
x_3
x 3
m
23
(
x
3
)
m_{23}(x_3)
m 2 3 ( x 3 )
我们按照这样的方法一个个去向前推进, 即每次寻找未提供的变量 (就是没有说这个变量具体的值, 又或者说目前的函数可以表达为只与这个变量有关的函数) 在哪 (即
∑
\sum
∑
∑
\sum
∑
∑
x
2
P
(
x
3
∣
x
2
)
\sum_{x_2}P(x_3\mid x_2)
∑ x 2 P ( x 3 ∣ x 2 )
∑
x
4
P
(
x
4
∣
x
3
)
\sum_{x_4}P(x_4\mid x_3)
∑ x 4 P ( x 4 ∣ x 3 )
x
3
x_3
x 3
∑
x
3
\sum_{x_3}
∑ x 3
这样算法的复杂度就降为了
O
(
N
T
)
O(NT)
O ( N T )
但是就是有一个缺点, 再次计算另一个边缘分布时有些变量又要求一遍, 造成冗余计算.
信念传播其实就是基于变量消去做了一些改进, 可以理解为存储了中间变量 (比如
m
12
(
x
2
)
m_{12}(x_2)
m 1 2 ( x 2 )
我们的目标是要计算函数
f
(
x
)
f(x)
f ( x )
p
(
x
)
p(x)
p ( x )
E
p
[
f
]
=
∫
f
(
x
)
p
(
x
)
d
x
\mathbb{E}_p[f] = \int f(x)p(x)\mathrm{d}x
E p [ f ] = ∫ f ( x ) p ( x ) d x
p
(
x
)
p(x)
p ( x )
f
^
=
1
N
∑
i
=
1
N
f
(
x
i
)
\hat{f} = \frac{1}{N}\sum^{N}_{i = 1}f(x_i)
f ^ = N 1 i = 1 ∑ N f ( x i )
p
(
x
)
p(x)
p ( x )
M
C
M
C
\mathrm{MCMC}
M C M C
M
C
M
C
(
M
a
r
k
o
v
C
h
a
i
n
M
o
n
t
e
C
a
r
l
o
)
\mathrm{MCMC\,(Markov\;Chain\;Monte\;Carlo)}
M C M C ( M a r k o v C h a i n M o n t e C a r l o )
p
(
x
)
p(x)
p ( x )
x
\mathrm{x}
x
p
p
p
具体来说,
M
C
M
C
\mathrm{MCMC}
M C M C
M
e
t
r
o
p
o
l
i
s
−
H
a
s
t
i
n
g
s
(
M
H
)
\mathrm{Metropolis-Hastings\,(MH)}
M e t r o p o l i s − H a s t i n g s ( M H )
令转移核为
p
(
x
,
x
′
)
p(x, x')
p ( x , x ′ )
p
(
x
,
x
′
)
=
q
(
x
,
x
′
)
α
(
x
.
x
′
)
p(x, x') = q(x,x')\alpha(x.x')
p ( x , x ′ ) = q ( x , x ′ ) α ( x . x ′ )
q
(
x
,
x
′
)
q(x, x')
q ( x , x ′ )
α
(
x
,
x
′
)
\alpha(x,x')
α ( x , x ′ )
(
p
r
o
p
o
s
a
l
d
i
s
t
r
i
b
u
t
i
o
n
)
(\mathrm{proposal\;distribution})
( p r o p o s a l d i s t r i b u t i o n )
(
a
c
c
e
p
t
a
n
c
e
d
i
s
t
r
i
b
u
t
i
o
n
)
(\mathrm{acceptance\;distribution})
( a c c e p t a n c e d i s t r i b u t i o n )
α
(
x
,
x
′
)
\alpha(x,x')
α ( x , x ′ )
α
(
x
,
x
′
)
=
m
i
n
{
1
,
p
(
x
′
)
q
(
x
′
,
x
)
p
(
x
)
q
(
x
,
x
′
)
}
\alpha(x,x') = min\left\{1, \frac{p(x')q(x', x)}{p(x)q(x, x')}\right\}
α ( x , x ′ ) = m i n { 1 , p ( x ) q ( x , x ′ ) p ( x ′ ) q ( x ′ , x ) }
p
(
x
,
x
′
)
p(x, x')
p ( x , x ′ ) KaTeX parse error: Unknown column alignment: q at position 35: … \begin{array} q̲q(x, x'),&p(x')…
(
t
−
1
)
(t - 1)
( t − 1 )
x
x
x
x
t
−
1
=
x
x_{t - 1} = x
x t − 1 = x
按照建议分布
q
(
x
,
x
′
)
q(x, x')
q ( x , x ′ )
x
′
x'
x ′
按照接受分布
α
(
x
,
x
′
)
\alpha(x, x')
α ( x , x ′ )
x
′
x'
x ′
x
t
=
x
′
x_t = x'
x t = x ′
x
t
=
x
t
−
1
x_t = x_{t - 1}
x t = x t − 1
t
=
t
+
1
t = t + 1
t = t + 1
这个抽取样本过程等价于直接按照
p
(
x
,
x
′
)
p(x, x')
p ( x , x ′ )
每次抽样时刻都会增加
1
1
1
p
(
x
)
p(x)
p ( x )
p
(
x
)
p(x)
p ( x )
p
(
x
)
p(x)
p ( x )
单变量
M
H
\mathrm{MH}
M H
M
H
\mathrm{MH}
M H
M
H
\mathrm{MH}
M H
M
H
\mathrm{MH}
M H
吉布斯采样是
M
H
\mathrm{MH}
M H
M
H
\mathrm{MH}
M H
q
(
x
′
,
x
)
q(x', x)
q ( x ′ , x )
p
(
x
j
∣
x
−
j
′
)
p(x_j\mid x'_{-j})
p ( x j ∣ x − j ′ )
q
(
x
,
x
′
)
=
p
(
x
j
′
∣
x
−
j
)
q(x, x') = p(x'_j\mid x_{-j})
q ( x , x ′ ) = p ( x j ′ ∣ x − j )
x
−
j
x_{-j}
x − j
x
j
x_{j}
x j
这样就可以让接受概率
α
=
1
\alpha = 1
α = 1
E
M
\mathrm{EM}
E M
7.6
7.6
7 . 6
E
\boldsymbol{\mathrm{E}}
E
M
\boldsymbol{\mathrm{M}}
M
Θ
t
\Theta_t
Θ t
Θ
t
\Theta_t
Θ t
X
\boldsymbol{\mathrm X}
X
Z
\boldsymbol{\mathrm Z}
Z
P
(
Z
∣
X
,
Θ
t
)
P(\boldsymbol{\mathrm{Z}}\mid\boldsymbol{\mathrm{X}},\Theta_t)
P ( Z ∣ X , Θ t )
Θ
\Theta
Θ
P
(
X
,
Z
∣
Θ
)
P(\boldsymbol{\mathrm{X}}, \boldsymbol{\mathrm{Z}}\mid\Theta)
P ( X , Z ∣ Θ )
M
\boldsymbol{\mathrm{M}}
M
M
\boldsymbol{\mathrm{M}}
M
Θ
t
+
1
\Theta_{t + 1}
Θ t + 1
Θ
t
+
1
=
arg
max
Θ
∑
Z
P
(
Z
∣
X
,
Θ
t
)
ln
P
(
X
,
Z
∣
Θ
)
\Theta_{t + 1} = \underset{\Theta}{\arg\max}\sum_{\boldsymbol{\mathrm{Z}}}P(\boldsymbol{\mathrm{Z}}\mid\boldsymbol{\mathrm{X}},\Theta_t)\ln P(\boldsymbol{\mathrm{X}}, \boldsymbol{\mathrm{Z}}\mid\Theta)
Θ t + 1 = Θ arg max Z ∑ P ( Z ∣ X , Θ t ) ln P ( X , Z ∣ Θ )
这个式子其实是对数似然函数在分布
P
(
Z
∣
X
,
Θ
t
)
P(\boldsymbol{\mathrm{Z}}\mid\boldsymbol{\mathrm{X}},\Theta_t)
P ( Z ∣ X , Θ t )
L
(
q
)
=
∫
q
(
z
)
ln
{
p
(
x
,
z
)
q
(
z
)
}
d
z
\mathcal{L}(q) = \int q(\boldsymbol{\mathrm{z}})\ln \left\{\frac{p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})}{q(\boldsymbol{\mathrm{z}})}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}
L ( q ) = ∫ q ( z ) ln { q ( z ) p ( x , z ) } d z
根据
q
(
z
)
=
∏
i
=
1
M
q
i
(
z
i
)
q(\boldsymbol{\mathrm{z}}) = \prod^{M}_{i = 1}q_i(\boldsymbol{\mathrm{z}}_i)
q ( z ) = i = 1 ∏ M q i ( z i )
q
i
(
z
i
≠
j
)
q_i(\boldsymbol{\mathrm{z}}_{i\not=j})
q i ( z i = j )
q
i
q_i
q i
代入可得
L
(
q
)
=
∫
∏
i
q
i
ln
{
p
(
x
,
z
)
q
(
z
)
}
d
z
=
∫
∏
i
q
i
{
ln
p
(
x
,
z
)
−
∑
i
ln
q
i
}
d
z
=
∫
∏
i
q
i
ln
p
(
x
,
z
)
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
q
j
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
\begin{aligned} \mathcal{L}(q) &= \int \prod_{i}q_i\ln \left\{\frac{p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})}{q(\boldsymbol{\mathrm{z}})}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int \prod_{i}q_i\left\{\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}) - \sum_i \ln q_i\right\}\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int \prod_{i}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}) - \int\prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int q_j\prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}} - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}} \end{aligned}
L ( q ) = ∫ i ∏ q i ln { q ( z ) p ( x , z ) } d z = ∫ i ∏ q i { ln p ( x , z ) − i ∑ ln q i } d z = ∫ i ∏ q i ln p ( x , z ) − ∫ i ∏ q i i ∑ ln q i d z = ∫ q j i = j ∏ q i ln p ( x , z ) d z − ∫ i ∏ q i i ∑ ln q i d z
∫
f
(
x
)
d
x
=
∫
{
∫
f
(
x
)
d
x
−
i
}
d
x
i
\int f(x) \mathrm{d}x = \int \left\{\int f(\boldsymbol{x})\mathrm{d}\boldsymbol{x}_{-i}\right\}\mathrm{d}\boldsymbol{x}_i
∫ f ( x ) d x = ∫ { ∫ f ( x ) d x − i } d x i
x
\boldsymbol{x}
x
x
i
\boldsymbol{x}_{i}
x i
x
\boldsymbol{x}
x
x
−
i
\boldsymbol{x}_{-i}
x − i
x
i
\boldsymbol{x}_{i}
x i
更一般的, 可以将
x
\boldsymbol{x}
x
因此
L
(
q
)
=
∫
q
j
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
{
∫
q
j
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
i
≠
j
}
d
z
j
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
\begin{aligned} \mathcal{L}(q) &= \int q_j\prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}} - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int\left\{\int q_j\prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not=j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}} \end{aligned}
L ( q ) = ∫ q j i = j ∏ q i ln p ( x , z ) d z − ∫ i ∏ q i i ∑ ln q i d z = ∫ ⎩ ⎨ ⎧ ∫ q j i = j ∏ q i ln p ( x , z ) d z i = j ⎭ ⎬ ⎫ d z j − ∫ i ∏ q i i ∑ ln q i d z 为了表达更清晰, 这里的符号和西瓜书稍稍不同, 这里
d
z
i
≠
j
\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not =j}
d z i = j
z
i
\boldsymbol{\mathrm{z}}_{i}
z i
同时由于
q
j
q_j
q j
z
i
≠
j
\boldsymbol{\mathrm{z}}_{i\not=j}
z i = j
L
(
q
)
=
∫
{
∫
q
j
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
i
≠
j
}
d
z
j
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
q
j
{
∫
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
i
≠
j
}
d
z
j
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
\begin{aligned} \mathcal{L}(q) &= \int\left\{\int q_j\prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not=j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int q_j\left\{\int \prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not=j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}} \end{aligned}
L ( q ) = ∫ ⎩ ⎨ ⎧ ∫ q j i = j ∏ q i ln p ( x , z ) d z i = j ⎭ ⎬ ⎫ d z j − ∫ i ∏ q i i ∑ ln q i d z = ∫ q j ⎩ ⎨ ⎧ ∫ i = j ∏ q i ln p ( x , z ) d z i = j ⎭ ⎬ ⎫ d z j − ∫ i ∏ q i i ∑ ln q i d z
我们单独取后一项进行进一步分析
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
(
∑
i
{
∏
i
q
i
}
ln
q
i
)
d
z
\int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}} = \int \left(\sum_i\left\{\prod_{i}q_i\right\}\ln q_i\right)\mathrm{d}\boldsymbol{\mathrm{z}}
∫ i ∏ q i i ∑ ln q i d z = ∫ ( i ∑ { i ∏ q i } ln q i ) d z
∫
(
{
∏
i
q
i
}
ln
q
k
)
d
z
\int \left(\left\{\prod_{i}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}
∫ ( { ∏ i q i } ln q k ) d z
∫
(
{
∏
i
q
i
}
ln
q
k
)
d
z
=
∫
{
∫
(
q
j
{
∏
i
≠
j
q
i
}
ln
q
k
)
d
z
i
≠
j
}
d
z
j
\begin{aligned} \int \left(\left\{\prod_{i}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}} &= \int\left\{\int \left(q_j\left\{\prod_{i\not=j}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not = j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j \end{aligned}
∫ ( { i ∏ q i } ln q k ) d z = ∫ ⎩ ⎨ ⎧ ∫ ⎝ ⎛ q j ⎩ ⎨ ⎧ i = j ∏ q i ⎭ ⎬ ⎫ ln q k ⎠ ⎞ d z i = j ⎭ ⎬ ⎫ d z j
q
j
q_j
q j
z
i
\boldsymbol{\mathrm{z}}_i
z i
∫
(
{
∏
i
q
i
}
ln
q
k
)
d
z
=
∫
q
j
{
∫
(
{
∏
i
≠
j
q
i
}
ln
q
k
)
d
z
i
≠
j
}
d
z
j
\begin{aligned} \int \left(\left\{\prod_{i}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}} &= \int q_j\left\{\int \left(\left\{\prod_{i\not=j}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not = j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j \end{aligned}
∫ ( { i ∏ q i } ln q k ) d z = ∫ q j ⎩ ⎨ ⎧ ∫ ⎝ ⎛ ⎩ ⎨ ⎧ i = j ∏ q i ⎭ ⎬ ⎫ ln q k ⎠ ⎞ d z i = j ⎭ ⎬ ⎫ d z j
{
∫
(
{
∏
i
≠
j
q
i
}
ln
q
k
)
d
z
i
}
\left\{\int \left(\left\{\prod_{i\not=j}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_i\right\}
{ ∫ ( { ∏ i = j q i } ln q k ) d z i }
z
j
\boldsymbol{\mathrm{z}}_j
z j
∫
q
j
d
z
j
=
1
\int q_j \mathrm{d}\boldsymbol{\mathrm{z}}_j = 1
∫ q j d z j = 1
∫
(
{
∏
i
q
i
}
ln
q
k
)
d
z
=
∫
q
j
{
∫
(
{
∏
i
≠
j
q
i
}
ln
q
k
)
d
z
i
≠
j
}
d
z
j
=
∫
(
{
∏
i
≠
j
q
i
}
ln
q
k
)
d
z
i
≠
j
\begin{aligned} \int \left(\left\{\prod_{i}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}} &= \int q_j\left\{\int \left(\left\{\prod_{i\not=j}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not = j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j\\ &= \int \left(\left\{\prod_{i\not=j}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not = j} \end{aligned}
∫ ( { i ∏ q i } ln q k ) d z = ∫ q j ⎩ ⎨ ⎧ ∫ ⎝ ⎛ ⎩ ⎨ ⎧ i = j ∏ q i ⎭ ⎬ ⎫ ln q k ⎠ ⎞ d z i = j ⎭ ⎬ ⎫ d z j = ∫ ⎝ ⎛ ⎩ ⎨ ⎧ i = j ∏ q i ⎭ ⎬ ⎫ ln q k ⎠ ⎞ d z i = j
∫
(
{
∏
i
q
i
}
ln
q
k
)
d
z
=
∫
(
q
k
ln
q
k
)
d
z
k
\begin{aligned} \int \left(\left\{\prod_{i}q_i\right\}\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}} &= \int \left(q_k\ln q_k\right)\mathrm{d}\boldsymbol{\mathrm{z}}_k \end{aligned}
∫ ( { i ∏ q i } ln q k ) d z = ∫ ( q k ln q k ) d z k
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
(
∑
i
{
∏
i
q
i
}
ln
q
i
)
d
z
=
∫
∑
i
q
i
ln
q
i
d
z
i
=
∫
q
j
ln
q
j
d
z
j
+
∫
∑
i
≠
j
q
i
ln
q
i
d
z
i
≠
j
=
∫
q
j
ln
q
j
d
z
j
+
c
o
n
s
t
\begin{aligned} \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}} &= \int \left(\sum_i\left\{\prod_{i}q_i\right\}\ln q_i\right)\mathrm{d}\boldsymbol{\mathrm{z}}\\ &= \int \sum_i q_i\ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}_i\\ &= \int q_j\ln q_j\mathrm{d}\boldsymbol{\mathrm{z}}_j + \int \sum_{i\not=j} q_i\ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not = j}\\ &= \int q_j\ln q_j\mathrm{d}\boldsymbol{\mathrm{z}}_j + \mathrm{const} \end{aligned}
∫ i ∏ q i i ∑ ln q i d z = ∫ ( i ∑ { i ∏ q i } ln q i ) d z = ∫ i ∑ q i ln q i d z i = ∫ q j ln q j d z j + ∫ i = j ∑ q i ln q i d z i = j = ∫ q j ln q j d z j + c o n s t
我们只关心与
z
j
\boldsymbol{\mathrm{z}}_j
z j
c
o
n
s
t
\mathrm{const}
c o n s t
因此
L
(
q
)
=
∫
q
j
{
∫
∏
i
≠
j
q
i
ln
p
(
x
,
z
)
d
z
i
≠
j
}
d
z
j
−
∫
∏
i
q
i
∑
i
ln
q
i
d
z
=
∫
q
j
{
∫
ln
p
(
x
,
z
)
∏
i
≠
j
q
i
d
z
i
≠
j
}
d
z
j
−
∫
q
j
ln
q
j
d
z
j
+
c
o
n
s
t
=
∫
q
j
ln
p
~
(
x
,
z
j
)
d
z
j
−
∫
q
j
ln
q
j
d
z
j
+
c
o
n
s
t
\begin{aligned} \mathcal{L}(q) &= \int q_j\left\{\int \prod_{i \not= j}q_i\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not=j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int \prod_{i}q_i\sum_i \ln q_i\mathrm{d}\boldsymbol{\mathrm{z}}\\ &=\int q_j\left\{\int \ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}})\prod_{i \not= j}q_i\mathrm{d}\boldsymbol{\mathrm{z}}_{i\not=j}\right\}\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int q_j\ln q_j\mathrm{d}\boldsymbol{\mathrm{z}}_j + \mathrm{const}\\ &= \int q_j\ln\tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)\mathrm{d}\boldsymbol{\mathrm{z}}_j - \int q_j\ln q_j\mathrm{d}\boldsymbol{\mathrm{z}}_j + \mathrm{const} \end{aligned}
L ( q ) = ∫ q j ⎩ ⎨ ⎧ ∫ i = j ∏ q i ln p ( x , z ) d z i = j ⎭ ⎬ ⎫ d z j − ∫ i ∏ q i i ∑ ln q i d z = ∫ q j ⎩ ⎨ ⎧ ∫ ln p ( x , z ) i = j ∏ q i d z i = j ⎭ ⎬ ⎫ d z j − ∫ q j ln q j d z j + c o n s t = ∫ q j ln p ~ ( x , z j ) d z j − ∫ q j ln q j d z j + c o n s t
ln
p
~
(
x
,
z
j
)
=
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
+
c
o
n
s
t
p
~
(
x
,
z
j
)
=
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
⋅
exp
(
c
o
n
s
t
)
\begin{aligned}\ln \tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j) &= \mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)] + \mathrm{const}\\ \tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)&= \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)]) \cdot \exp(\mathrm{const}) \end{aligned}
ln p ~ ( x , z j ) p ~ ( x , z j ) = E i = j [ ln p ( x , z j ) ] + c o n s t = exp ( E i = j [ ln p ( x , z j ) ] ) ⋅ exp ( c o n s t )
而又因为
∫
p
~
(
x
,
z
j
)
d
z
j
=
1
∫
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
⋅
exp
(
c
o
n
s
t
)
d
z
j
=
1
exp
(
c
o
n
s
t
)
=
1
∫
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
d
z
j
\begin{aligned} \int \tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)\mathrm{d}\boldsymbol{\mathrm{z}}_j &= 1\\ \int \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)]) \cdot \exp(\mathrm{const})\mathrm{d}\boldsymbol{\mathrm{z}}_j&= 1\\ \exp(\mathrm{const})&=\frac{1}{\int \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)])\mathrm{d}\boldsymbol{\mathrm{z}}_j} \end{aligned}
∫ p ~ ( x , z j ) d z j ∫ exp ( E i = j [ ln p ( x , z j ) ] ) ⋅ exp ( c o n s t ) d z j exp ( c o n s t ) = 1 = 1 = ∫ exp ( E i = j [ ln p ( x , z j ) ] ) d z j 1
p
~
(
x
,
z
j
)
=
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
⋅
exp
(
c
o
n
s
t
)
=
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
∫
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
d
z
j
\begin{aligned} \tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)&= \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)]) \cdot \exp(\mathrm{const})\\ &= \frac{\exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)])}{\int \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)])\mathrm{d}\boldsymbol{\mathrm{z}}_j} \end{aligned}
p ~ ( x , z j ) = exp ( E i = j [ ln p ( x , z j ) ] ) ⋅ exp ( c o n s t ) = ∫ exp ( E i = j [ ln p ( x , z j ) ] ) d z j exp ( E i = j [ ln p ( x , z j ) ] )
q
j
∗
(
z
j
)
=
p
~
(
x
,
z
j
)
q_j^*(\boldsymbol{\mathrm z}_j) = \tilde{p}(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)
q j ∗ ( z j ) = p ~ ( x , z j )
q
j
∗
(
z
j
)
=
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
∫
exp
(
E
i
≠
j
[
ln
p
(
x
,
z
j
)
]
)
d
z
j
q_j^*(\boldsymbol{\mathrm z}_j) = \frac{\exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)])}{\int \exp(\mathbb{E}_{i\not=j}[\ln p(\boldsymbol{\mathrm{x}}, \boldsymbol{\mathrm{z}}_j)])\mathrm{d}\boldsymbol{\mathrm{z}}_j}
q j ∗ ( z j ) = ∫ exp ( E i = j [ ln p ( x , z j ) ] ) d z j exp ( E i = j [ ln p ( x , z j ) ] )
其实就是一个具体的模型, 理解了前面的内容这里应该也没什么问题.
白板推导: https://www.bilibili.com/video/av70839977
南瓜书: https://datawhalechina.github.io/pumpkin-book
《统计学习方法》李航
