Representation Learning: A Review and New Perspectives阅读笔记

摘要-机器学习算法依赖于数据表示,尽管特定的领域知识可以被帮助用来学习知识表示,先验知识也是可以用来学习的,并且应用先验知识设计更有效的知识表示学习算法正是AI的需求。这篇文章回顾了非监督特征学习和深度学习相关领域的最新的工作,包括概率模型的进展,自动编码机、主流学习和深度网络。这激发我们思考一些问题,比如如何学习好的表示,如何计算表示,表示学习、密度评估和主流学习之间的几何关系。

关键字-深度学习,表示学习,特征学习,非监督学习,玻尔兹曼机,自动编码机,神经网络

1、引言

早期的学习算法不能提取和组织数据中的判别信息,特征工程师利用人类的智慧和先验知识来弥补这一缺点的办法,为了扩展机器学习的适用范围,降低学习算法对特征工程的依赖程度。

这篇文章主要内容是表示学习,数据的表示学习有助于构建分类器和进行数据的其他预测。这篇文章聚焦于表示学习的深度学习方法,表示学习的深度学习方法由多个非线性变换组成,可以产生更加抽象和有用的数据表示。我们思考一些基本的问题,什么使得一种表示优于另一种?我们如何计算表示,即如何进行特征提取?表示学习的目标函数是什么样的。

2、为什么我们要关注表示学习

猜你喜欢

转载自www.cnblogs.com/qinxiaoyu/p/9462363.html