机器学习概念与其算法总结
关键字：归纳，综合，演绎
1。机器学习概念
机器学习：专门研究计算机怎样模拟或实现人类的学习行为获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎（从服从该认识的已知部分推知事物的未知部分思维方法。是由一般到个别的认识方法。演绎法是认识“隐性”知识的方法，由普遍规律到具体的事物，演绎推理的主要形式是三段论，即大前提、小前提和结论。大前提是一般事理；小前提是论证的个别事物；结论就是论点。）
1.监督式学习
数据被打上标记，不断训练数据的过程。获取由自变量到因变量的模型，不断对这个模型训练，将模型的预测值与训练数据的已知值进行比较，直到该模型可以较为准确的描述自变量到因变量的变化情况。常用于回归和分类。
常见算法：回归模型，决策树，随机森林，K邻近算法，逻辑回归等。
例子：垃圾邮件分类，每个邮件都被标识是否为垃圾邮件。
2.无监督式学习
数据没有标记，无监督式学习在学习时并不知道其分类结果是否正确，亦不知道何种学习是正确的。其特点是仅提供输入样本，而它会自动从这些样本中找出其潜在类别规则。当学习完毕并经测试后，也可以将之应用到新的案例上。用于分类问题。
常见算法;关联规则，K-means聚类算法等。
3.半监督式学习
数据部分被标识，部分没有被标识，这种学习模型可以用来进行预测，但是模型首先需要学习数据的内在结构以便合理的组织数据来进行预测。应用场景包括分类和回归，算法包括一些对常用监督式学习算法的延伸，这些算法首先试图对未标识数据进行建模，在此基础上再对标识的数据进行预测。
常见算法图论推理算法（Graph Inference）或者拉普拉斯支持向量机（Laplacian SVM.）等。
4.强化学习
在这种学习模式下，输入数据作为对模型的反馈，不像监督模型那样，输入数据仅仅是作为一个检查模型对错的方式，在强化学习下，输入数据直接反馈到模型，模型必须对此立刻作出调整。常见的应用场景包括动态系统以及机器人控制等。
常见算法：Q-Learning以及时间差学习（Temporal difference learning）。
补充知识点：
反演问题：反演问题是指由结果及某些一般原理（或模型）出发去确定表征问题特征的参数（或模型参数）。反演问题相对于正演问题而存在，其一般的工作程序为数据-正演模型-模型参数的估算值。因此，正演计算模型是反演问题的基础。只有得到了正演问题的数值解，才能考虑去求解反演问题
正演问题：即由数据得到理论，根据磁性体的形状、产状和磁性数据，通过理论计算、模拟计算或模型实验等方法，得到磁异常的理论数值或理论曲线，统称为正演问题。
这几天将把机器学习的笔记整理到博客上。是一些很基础的知识，可能会比较乱，会后续整理汇总。
部分来源于：http://blog.jobbole.com/77620/
侵删