笔记2-cnn/rnn

• 受视觉启发，考虑视觉空间结构
• 卷继层：
  核心图层
  提取局部区域特征
  通常有多个不同的卷积核
  局部区域和卷积核通过卷积运算生成不同特征
  不同卷积核可看成不同特征提取器
• 池化层
  子采样层
  通常用在连续卷积之间
  类似于特征选择
  减少特征和参数数量，减少计算量，控制过拟合
  在每个通道上独立执行
  沿着高宽下采样
• RNN
  序列模型的一种变体
  循环性
  序列的每个时刻执行相同的任务
  每个时刻的输出依赖于当前时刻输入和上一时刻隐状态
  因变量可作为存储器从序列中捕获长期信息
• 时序反向传播算法