对百度深度学习公开课的学习，提取一些要点和思考：
http://ai.baidu.com/paddlepaddle/openCourses
课程第一章主要介绍现代AI的基本概念和演化过程，整理本课程一些学习要点，第一课介绍现代AI的历史发展；第二课梳理了现代AI的骨架脉络，有个整体概貌；第三课着重介绍深度的基本概念和学习演进过程。
1.1 深度学习的兴起
Alphago引起广泛关注；
1.2 学派分类
逻辑学派：规则为主；
统计学派：基于数据的统计规律；
知识库学派：知识库，知识图谱；
神经网络：深度学习。
1.3 深度学习发展
1958年 Frank感知机
1969- 寒冬期
1989年 图像识别技术
1997年 IBM深蓝
2007年 imageNet 李飞飞
2012年 AlexNet google Brain
2014年 Google收购DeepMind
2015年 微软imagenet比赛中超过人类水平
2016年 AlphaGo战胜李世石
1.4 AI与深度学习的关系
AI-机器学习-表示学习-深度学习
1.5 Modern AI
基于深度学习的不断创新与结合
2、现代AI的骨架脉络
1.1 深度学习和神经网络的基本概念；
MLP(Perceptron)
DNN
1.2 CNN->2012 AlexNet->VGG->ResNet 计算机视觉
1.3 RNN->LSTM(长短期记忆)->GRU->Neural Turing Machine(神经图灵机器)
1.4 CNN和RNN的应用
文本分类 CNN
情感分析 RNN
中文诗歌
1.5 神经自然语言处理
语义模型
序列标注
1.6 搜索排序
Learning2Rank
1.7 强化学习技术与应用
方法：基于值；基于策略；基于模型。
1.8 可解释的模型及应用
概率图模型
贝叶斯推断
贝叶斯深度学习
1.9 生成式模型
VAE(Variational autoencoder变分自编码器)
GANs(生成式对抗网络)
1.10 深度强化学习算法
DQN(Deep Q-Learning)
AlphaGo
DDPG(Deep Deterministic Policy Gradient)
1.11 Multi-Agent系统技术
理论介绍
算法分析
1.12 基于逻辑的深度学习技术
理论介绍
算法分析
3、深度学习简介
3.0 逻辑主义AI(国际象棋)-> 机器学习该概念起源；
3.1 数据，规则-》结果 vs 数据，结果-》规则；
3.2 侧重面向工程的方向，解决实际问题；
3.3 深度学习是表示学习的一种方式，表示学习通过对于实际问题表述优化，达到更好解决问题，
深度学习能够连续获得更加有意义的表示，是学习表示的数据框架，这种数据框架会受到神经生物学的启发，同时
也具有自身的一些变化和创新；
什么样的模型解决什么样的问题是没有明显规则，所以创新是很宽阔的；
3.4 深度学习基本结构
输入--权值--结果 vs 真实结果
优化权值<-优化器<-损失函数
3.5 深度学习可以认为是连接主义学派的发展演化结果
经历了电子大脑，感知机，多层感知机(有使用到BP)，再到深度神经网络，中间有SVM模型的提出对链接模型造成一定的冲击；2006深度神经网络的完备，深度学习开始了高速的发展。