版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/duozhishidai/article/details/79284160
归纳学习是符号学习中研究得最为广泛的一种方法。给定关于某个概念的一系列已知的 正例和反例，其任务是从中归纳出一个一般的概念描述。归纳学习能够获得新的概念，创立新的规则，发现新的理论。它的一般操作是泛化（Generalization)和特化（Specialization)。
归纳学习旨在从大量的经验数据中归纳抽取出一般的判定规则和模式，是从特殊情况推 导出一般规则的学习方法。归纳学习的目标是形成合理的能解释已知事实和预见新事实的一 般性结论。例如，通过“麻雀会飞” “燕子会飞”等观察事实，、可以归纳得到“鸟会飞” 这样的一般结论。归纳学习由于依赖于经验数据，因此又称为经验学习（Empirical Learning)， 由于归纳依赖于数据间的相似性，所以也称为基于相似性的学习（Similarity Based Learning) 。
在机器学习领域，一般将归纳学习问題描述为使用训练实例以引导一般规则的搜索问 题。全体可能实例构成实例空间，.全体可能的一般规则构成规则空间。基于规则空间和实例 空间的学习就是在规则空间中搜索要求的规則，并从实例空间中选出一些示教的例子，以便 解决规则空间中某些规则的二义性问题。学习的过程就是完成实例空间和规则空间之间同 时、协调的搜索，最终找到要求的规则。
依照双空间模型建立的归纳学习系统，其执行过程可以大致描述为：首先由施教者提供 实例空间中的一些初始示教例子，由于示教例子在形式上往往和规则形式不同，因此需要对 这些例子进行转换，解释为规则空间接受的形式。然后利用解释后的例子搜索规则空由 于一般情况下不能一次从规则空间中找到要求的规则，因此需要寻找和使用一些新的示教例 子，这就是选择例子。程序会选择对搜索规则空间最有用的例子，对这些示教例子重复上述 循环。如此循环多次，直到找到所要求的例子。在归纳学习中，常用的推理技术包括泛化、 特化、转换以及知识表示的修正和提炼等。
实例空间所要考虑的主要问题包括两个，一个是示教例子的质量，另一个是实例空间的搜索方法。解释示教例子的目的是从例子中提取出用于搜索规则空 间的信息，也就是把示教例子变换成易于进行符号归纳的形式。选择例子就是确定需要哪些 新的例子和怎样得到这些例子。规则空间的目的就是规定表示规则的各种算符和术语，以描述和表示规则空间中的规则，与之相关的两个问题是对规则空间的要求和规则空间的搜索方 法。对$则空间的要求主要包括三个方面：规则表示方法应适合归纳推理、规则的表示与例 子的表示应一致以及规则空间应包含要求的规则。规则空间的搜索方法包括数据驱动的方 法、规则驱动的方法和模型驱动的方法。数据驱动的方法适合于逐步接受示教例子的学习过 程，在后面介绍的变型空间方法就是一种数据驱动的学习方法，模型驱动方法通过检査全部 例子来测试和放弃假设。
归纳学习方法可以划分为单概念学习和多概念学习两类。这里概念指用某种描述语言表 示的谓词，当应用于概念的正实例时，谓词为真，应用于负实例时为假。从而概念谓词将实 例空间划分为正、反两个子集。对于单概念学习，学习的目的是从概念空间£即规则空间） 中寻找某个与实例空间一致的概念；对于多概念学习任务，是从概念空间中找出若干概念描 述，对于每一个概念描述，实例空间中均有相应的空间与之对应。
典型的单概念学习系统包括米切尔（Mitchell T)的基于数据驱动的变型空间法、昆兰 (Quinlan JR)的ID3方法、狄特利希（Dietterich T G)和米哈尔斯基Michalski R S)提出 的基于模型驱动的Induce算法。典型的多概念学习方法和系统有米哈尔新基的AQ11、DEN-DRAL和AM程序等。多概念学习任务可以划分成多个单概念学习任务来完成，例如，AQ11 对每一概念的学习均采用Induce算法来实现。
统计学习、迁移学习、深度学习、机器学习，各种学习，总而言之，还希望大家多看下这方面的科谱专文，不过瘾的话，可以搜索多智时代，今天主要为大家脑补几篇，请大家认真阅读：
- 什么是迁移学习，为什么是数据科学家所需拥有的关键技能?
- 机器学习系统主要由哪几部分组成，有哪些重要问题需要研究？
- 在机器学习领域，主要的学习方式有哪几种？
- 学习机器学习需要具备怎样的数学水平？
- 什么是人工智能、数据挖掘、机器学习和深度学习，它们之间有什么关系？