本博客会持续更新本目录，基本也是我目前接触到的一些知识，会继续扩展。
人工智能学习 1
- 环境、命令Anaconda 5
1.1. pip 5
1.1.1. pip install tensorflow 5
1.1.2. 更新 pip install --upgrade tensorflow 5
1.1.3. pip show tensorflow 5
1.1.4. pip install --upgrade --ignore-installed tensorflow. 6
1.2. 环境切换 6
1.2.1. activate tensorflow 6
1.2.2. conda deactivate 6
1.3. channels 6
1.3.1. 恢复默认channels 6 - tensorflow 6
2.1. session 6 - spyder 7
3.1. 快捷键 7
3.1.1. 注释 7 - protobuf 7
4.1.1. 安装 7
4.1.2. 使用 8 - 数学 9
5.1. ROC曲线、F1-Measure、IoU 9
5.1.1. ROC曲线 9
5.1.2. F1-Measure 10
5.1.3. IOU 10
5.2. 鲁棒性 10
5.3. 感知机 11
5.4. 梯度 12
5.4.1. 线性回归 12
5.4.2. 最小均方法（Least Mean squares） 13
5.4.3. 梯度下降GD(Gradient Descent) 13
5.4.4. 批梯度下降算法（BGD） 14
5.4.5. 随机梯度下降（Stochastic Gradient Descent, SGD） 15
5.4.6. AdaGrad 16
5.4.7. Adadelta 17
5.4.8. Momentum算法-冲量算法 17
5.4.9. RMSprop算法 20
5.4.10. Adam算法 21
5.5. 激活函数 21
5.5.1. Sigmoid激活函数 21
5.5.2. ReLu激活函数 22
5.6. Softmax函数 22
5.6.1. 分类问题 23
5.6.2. softmax回归模型 23
5.6.3. softmax运算 24
5.6.4. 单样本分类的矢量计算表达式 25
5.6.5. 小批量样本分类的矢量计算表达式 26
5.6.6. 交叉熵损失函数 27
5.6.7. 模型预测及评价 28
5.6.8. 小结 28
5.7. Dropout 28
5.8. BN(BatchNorm) 29
5.9. 独热编码（One-Hot） 34
5.10. embedding 词嵌入 34
5.11. 降维算法UMAP、t-SNE 34
5.12. BP反向传播算法（BackPropagation） 38
5.12.1. 简介 38
5.12.2. 步骤一：前向传播 40
5.12.3. 步骤二：反向传播 41
5.12.4. 总结 46
5.12.5. 梯度消失、梯度爆炸 47 - 图像 48
6.1. mAP 48
6.2. 目标检测之 IoU 48
6.3. 理论感受野和有效感受野 49
6.4. anchor 50
6.5. 上采样与下采样 51
6.5.1. 常用的插值方法 52
6.6. FCN-图像语义分割 63
6.6.1. FCN结构 63
6.6.2. 上采样 65
6.7. U-Net图像语义分割 66 - 图像模型 67
7.1. YOLO3-目标检测 67 - 模型 68
8.1. AlexNet（卷积神经网络） 68
8.1.1. AlexNet特点 68
8.1.2. 局部相应归一化 70
8.2. VGGNet（卷积神经网络） 70
8.2.1. VGGNet结构 70
8.3. ResNet（残差网络） 72
8.4. RNN（循环神经网络） 74
8.4.1. RNN模型结构 74
8.4.2. RNN的反向传播 78
8.4.3. LSTM 和 GRU （RNN的一些改进算法） 81
8.5. SDD（ Single Shot MultiBox Detector）-目标检测 85
8.6. FPN(Feature Pyramid Network)- 特征金字塔 86
8.6.1. 高斯金字塔 87
8.6.2. 特征金字塔 88
8.6.3. FPN 89
8.7. Faster RCNN\ RPN –图像分类 92
8.8. Inception-卷积架构 93
8.8.1. Inception v1 94
8.8.2. Inception v2 94
8.8.3. Inception v3 95
8.8.4. Inception v4 96
8.8.5. Inception-ResNet 96
8.9. MobileNet 97
8.9.1. 深度可分离卷积 97
8.9.2. MobileNet V1 98
8.9.3. MobileNet V2 101
8.9.4. MoblieNet V3 104
8.10. MTCNN-多任务卷积神经网络 107
8.10.1. MTCNN是什么 107
8.10.2. 构建图像金字塔 108
8.10.3. P-Net 108
8.10.4. R-Net 109
8.10.5. O-Net 110
8.10.6. 集成架构及系统思想 111
8.11. CTPN-文本识别 113
8.12. CRNN-端到端识别 113
8.13. CTC-输入与输出匹配 113 - 强化学习 113
9.1. Q-Learning 114
9.2. Sarsa 114
9.3. DQN(Deep Q Network) 115
9.4. Policy Gradient 115 - 数据集dataset 116
10.1.1. ICDAR 116
10.1.2. the SWT dataset 117 - NLP 117
11.1. SLING-语义解析 117
