注释:
这里的目的就是最大化两次迭代之间的差值。
1、差值的最大值如果小于0,说明已经到了最大值,在当前位置向任何方向走,对数似然函数都会变小,我们要求的就是极大似然函数,所以已经得到最大的似然函数,此时的参数即是所求的。
2、差值如果大于0,那么我们现在就是要最大化差值,这里我们得到了差值的下界,我们可以通过不断的最大化这个下界,从而得到最大的差值,最大化这个下界,首先对求关于的偏导数,并令偏导数为0,但是这里我们可以看出求出的偏导数
含有多个变量,不易同时优化。因此在这里引出了下面的方法。