MLE assumption 问题

MLE的成立不建立在任何假设上(可能错了)。有时MLE最后的形式不是一个closed form,不能确切的求出这个estimator。所以这个时候,我们可以asymptotically来approximate 这个值。当n 趋于无穷的时候,MLE会follow一个normal distribution: n ( θ ^ θ ) N ( 0 , I 1 ) \sqrt n(\hat\theta-\theta)\sim N(0, I^{-1}) .
MLE 既是consistent也是efficient estimator。
还有一点想强调的是,在linear regression中我们用到了 iid的假设并且假设data是从normal distribution里sample出来的。当用OLS求estimator的时候,其实跟MLE本质上是一样的,因为到最后都是要最小化exponential上面的平方项(如果variance已知的话, 如果不是已知条件我还没想好)。

猜你喜欢

转载自blog.csdn.net/weixin_32334291/article/details/87508215
MLE