学堂在线_大数据与机器学习_第二章机器学习基本概念

直接的定义

假设空间，就是相应的参数有多少种组合而已，可能有多种组合满足要求
模型集合，策略就是损失函数，算法就是方向更新参数的方法

损失函数和风险函数

风险函数

学习的目的，经验风险

例如随机梯度下降

奥姆卡剃刀

不同的样本测试结果不一样，NFL

过拟合

正则化

泛华能力理论定义，增加数据或者减少模型能增强泛化能力

泛华能力

生产模型和判别模型