吴恩达深度学习学习笔记——C3W2——机器学习策略2-2

2.6 解决数据不匹配问题

 

人工数据合成的比例不能太高，否则会导致对合成数据产生过拟合。

 

2.7 迁移学习

迁移学习的两个例子：

1. 图像识别应用迁移到医学影像识别
2. 语音识别应用迁移到唤醒词检测

 

迁移学习的应用场合：

1. 任务A和任务B具有相同的输入

2. 任务A的可用数据量远大于任务B

3. 任务A的低层次特征可能对任务B有所帮助

2.8 多任务学习

多任务学习的一个简单示例：无人驾驶任务中，要同时识别行人、车辆、信号灯、路标等多种对象

 

 

神经网络架构中的多任务学习（与softmax回归只检测一种对象不同，多任务学习要同时检测多种多种对象）

 

多任务学习的应用场合：

1. 所训练的不同任务之间可以共享一些低层次的特征
2. 各任务所需数据很相似
3. 可以训练一个足够大的神经网络以同时很好地完成所有任务

2.9 什么是端到端的深度学习？

数据量较大时，端对端的学习也能成功，而无需将任务分成很多中间过程

 

人脸识别可分成两步执行：

1. 从图像中识别出人脸
2. 识别人脸属于谁的脸（当前人脸与数据库中的人脸数据进行一一匹配）

 

其他示例

 

2.10 是否要使用端到端的深度学习？

端对端学习的优点与缺点：

1. 优点：让数据说话；减少对手动设计的组件的依赖
2. 缺点：可能需要大量数据；没有好好利用一些有用的手动设计的组件

 

端对端学习的应用：

1. 使用深度学习学习各个组件
2. 仔细选择X->Y映射（端对端）所需的数据