深度学习(一)---深度神经网络解析

一直没找到时间来总结下自己学习的内容,这段时间坚持下,把所学所想记录下来,让自己的学习体系更完善,而不是停留在自认为会了的阶段还需要能够表达出来。

首先梳理下人工智能、机器学习、深度学习之间的关系,用一张图来表示如下:

                                                    

可以看到人工智能是个最大最泛的概念,机器学习则就是指的一个程序在任务上,随着经验的增加,学习效果也随之增加,也就认为程序可以从这个经验中学习;深度学习则就是机器学习中更深更小的一块了,也就是基于深度人工神经网络,自动的将简单的特征组合成复杂的特征,并使用这些特征组合解决问题。

人工智能的分类为 :

弱人工智能 , 特定的任务与人类的效率或智力持平 。目前的图像识别、语音识别、自然语言处理都属于该阶段。

通用人工智能  、具有人类智力水平,能解决通用问题。

超人工智能 、超过人类智力水平,可以在创造力上超越常人。这个目前是个概念,估计要到达这个阶段还需要很久的时间。

机器学习的类型

监督学习 :通过带标签的训练集训练数据

无监督学习:通过无标签的训练集自动挖掘模式

增强学习:通过反馈或者奖惩机制进行学习。就比如游戏中的机器模式。

讲完了人工智能,机器学习,深度学习的关系后,下面来梳理下目前深度学习的应用领域主要为如下三大领域:语音识别,计算机视觉,自然语言处理 ,其中语音识别也是要依赖自然语言处理这一块的。目前最难的领域就是语音识别领域,当然除了这是三个领域以外,深度学习运用还比较火的就是推荐系统。

深度学习对比传统机器学习的优势主要体现在随着数据规模的逐渐增多,深度学习的效果会越来越好,而传统的机器学习随着数据规模的逐渐增多,学习的效果达到一个最大值后就会趋于平缓而不会再增加了。利用图来表示就如下图所示。

当然就像任何领域都是有基本套路一样,深度学习领域也有三大基础算法,分别为:

DNN : 深度神经网络,在推荐系统中多采用DNN变体

CNN: 卷积神经网络,图像问题中多用CNN变体,比如CV应用

RNN:循环神经网络 ,序列问题多采用RNN变体,比如语音识别

那么既然说到神经网络,神经网络的结构又是怎样的呢,一开始的人工神经网络(这里就是我们通俗上说的神经网络,这里是为了和生物神经网络区分,故说详细点)是受到生物神经网络的启发,这里关于生物神经网络的结构我们就不做详细解释,就简单说下在生物神经网络中最小的单元是神经元,在一端受到刺激会将信号传递给另一端,构成就是输入(化学信号或电信号)到输出(化学信号或电信号)这一个过程;网络就是将一个神经元的刺激信号传递给另一个神经元。也就是多个神经元组成了网络结构。

在人工神经网络中也有最小的单元,那就是感知机(在平时大家也可能会说神经元,不刻意区分这2者),感知机(神经元)的组成就是包含输入(一个向量)---->运算(包含线性变换,非线性变换)---->输出(一个标量),每一个神经元的运算都包含线性变换(加权求和)和非线性变换(非线性函数)。也就是每一个神经元都可以看做一个小的复合函数,那么整个神经网络就可以看做是一个大的复合函数。

公式表示如下:a=f(x_{1},x_{2}...x_{n})   

拆开成线性变换和非线性变换则如下:

z=x_{1}w_{1}+x_{2}w_{2}+....x_{n}w_{n}+b     线性变换

a=g(z) 非线性变换(这里也就是使用的常说的激活函数)

最简单的神经网络就是单神经元,如下图所示

这里就对深度学习中的神经网络做如上的概念讲解。下一篇文章就来讲解在深度神经网络的训练过程三部曲。

猜你喜欢

转载自blog.csdn.net/qq_27575895/article/details/90479412
今日推荐