Statistical 英语-1

supervised learning
semi-supervised leaning
unsupervised learning
reinforcement learning  强化学习

hypothesis space 假设空间
parameter space  参数空间

likelihood loss function  似然损失函数
quadratic loss  funtion  平方损失函数
risk function 风险函数
expected function  期望损失
empirical loss  经验损失

empirical ris minimization ERM 经验风险最小化
Maximum likelihood estimation  最大似然估计
regularization  正则化
penalty term 惩罚项

Maximum posterior probability estimation 最大后验概率
Least squares  最小二乘法== 平方损失法
cross validation  交叉验证
evaluation criterion 评价准则

Model  Strategy algorithm

Feature  vector 特征向量


odds  几率


最大熵原理  maximum entropy model -- 概率模型中，熵最大的模型是最好的模型
熵满足不等式 0 =< H(D) <= log|x|


最大熵模型的学习方法：    improved iterative scaling   迭代尺度法