SIGAI深度学习第四讲 深度学习简介

讲授机器学习面临的挑战、人工特征的局限性、为什么选择神经网络、深度学习的诞生和发展、典型的网络结构、深度学习在机器视觉、语音识别、自然语言处理、推荐系统中的应用

大纲:

机器学习面临的挑战

特征工程的局限性

机器学习算法的瓶颈

为什么选择了神经网络

深度学习的基本思路

深度学习的诞生历程

深度学习得以发展的因素

典型的网络结构

深度学习的发展现状

在机器视觉中的应用

在语音识别中的应用

在自然语言处理中的应用

在推荐系统中的应用

深度强化学习简介

本集总结

机器学习面临的挑战:

经典的机器学习算法对某些复杂的问题的处理效果还远远未达到实用的标准,典型的是语音识别和图像识别,泛化性能差,存在严重的过拟合问题。

瓶颈在于两个方面,即人工特征;机器学习算法。

特征工程的局限性: 

通用性差;建模能力差;维数灾难。

特征的设计需要大量专业领域的知识,在深度学习流行之前,做语音识别或图像识别的机构都聚集了很多人,精通各种人工特征,才能构建一个算法出来,需要大量成本且不具有通用性,而且建模能力有限,因为人工设计的特征的时候,要做各种各样的假设和简化便于计算,这样会丢掉原始的图像或语音信号的重要信息,不利于后边的分类。

为了提高算法的精度,倾向于使用越来越多的特征,即特征的维数越来越高,刚开始随着维数增加,分类的准确率会上升趋势,但是达到一定维数之后再增加维数准确率反而会下降,因为样本在高维空间的分布比较稀疏,这些样本就像噪声点一样,导致算法无法拟合一个模型出来,因为怎么看都像一个噪声。

由于特征工程(人工特征)的通用性差、建模能力差 ,与之前的人工规则和知识工程存在的问题是一样的,就出现了更彻底的深度学习

 机器学习算法的瓶颈:

建模能力差;对于复杂的问题泛化性能差。

如图像识别,输入图像512*512,f(x)——>y(+1/-1),输入向量维数非常高,函数会非常复杂,无法拟合。经典机器学习算法,如SVM、LR、AdBoost,函数形式是非常确定的,就那些参数,而用用那些参数组合出来的函数,无法描述复杂的函数。

猜你喜欢

转载自www.cnblogs.com/wisir/p/11707556.html