台大机器学习基石 Lecture 3 - Types of Learning

本章主要讲了不同的学习方法,主要有Output Space, Data Label, Protocol, Input Space四个方面。

在上图[ ]以及后文中黄色标记的内容为本课程中主要讲解的内容。

Learning with Different Output Space \large y

  • binary classificationy = \left \{ -1 , +1\right \}
  • multiclass classification: y = \left \{1, 2, 3 ..., K \right \}
  • regressiony=\mathbb{R}
  • structured learning: y=structures。输出空间包含了某种结构在里面,它的一些解法通常是从多分类问题延伸而来的,比较复杂。

Learning with Different Data Label \large y_n

  • supervised: all y_n。监督学习,即给出所有样本的y_n
  • unsupervised: no y_n。无监督学习,即不给出样本的y_n,通过clustering(聚类)的方法。
  • semi-supervised: some y_n。给出部分样本的y_n,大多数的样本没有,避免了昂贵的标记成本。
  • reinforcement learning: implicit y_n by goodness(\tilde{y}_n)

增强学习中,我们给模型或系统一些输入,但是给不了我们希望的真实的输出y,根据模型的输出反馈,如果反馈结果良好,更接近真实输出,就给其正向激励,如果反馈结果不好,偏离真实输出,就给其反向激励。不断通过“反馈­修”这种形式,一步一步让模型学习的更好,这就是增强学习的核心所在。

Learning with Different Protocol \large f\Rightarrow (x_n, y_n)

其实就是不同的学习方法,主要分为以下三类:

  • batch: 即是一次性拿到所有的数据集。
  • online: 在线学习模型,通过不断更新数据,可以在线更新模型。一些batch learning的模型也可以修改为online learning的模型,比如PLA模型的修正就可以在线进行。
  • active: 让模型具有主动问问题的能力,也就是在获取label比较困难的时候可以主动提出需求以节约成本。

Learning with Different Input Space \large x

输入数据的不同类型?

  • concrete: each dimension of \large x\subseteq \mathbb{R}^{d} represents ‘sophisticated physical meaning’,具有具体意义的特色输入对机器学习最简单。
  • raw: often need human or machines to convert to concrete ones,原始数据需要转换成对应的具体特征。
  • abstract: 特征完全抽象,没有实际的物理含义。所以对于机器学习来说是比较困难的,需要对特征进行更多的转换和提取。

猜你喜欢

转载自blog.csdn.net/github_36324732/article/details/81184663
今日推荐