ReID DAY3

已经是星期三了,距离周报截止时间还有三天,干巴得。

今天的这篇随笔,将对前面的随笔的一些知识和疑问进行一个补充解答。(十分感谢学长的深夜解答嗷嗷嗷!!)

正文部分为3.2与3.3的一些可能存在疑问的地方的一些解释。欢迎随时批评指正!!(>ω< )

Answer Time:

(1) 表征学习补充:

  (图片来源:周志华CNCC2016的PPT)

     特征工程表征学习的关系:https://zhuanlan.zhihu.com/p/41521695

(2) DAY2 Q3 Q5: 问:在行人重识别里面引入ID信息不足以增强泛化的一个能力,这时添加行人其他的属性标签进行训练则能提高泛化能力。可是这个不会引起过拟合的问题吗?如果不会(肯定不会),那么为什么在ReID中引入多的属性能增强泛化能力,而在房价预测中添加多的属性多的数据进行训练反而会造成过拟合的后果呢?还是说,在ReID中也使用了dropout的方法呢? 首先,我们可以看到在验证损失和ID损失网络中用到了dropout的方法,属性损失和ID损失的网络采用的则是FC层,所以我们需要先去明白dropout的本质是什么?dropout是训练深度神经网络的一种trick。在每个训练批次中,通过忽略一半的特征检测器(也即保持另一半的活性 keep_prob),减少过拟合,因此dropout可以视为类似于正则化的方法,从而使得网络泛化能力更强。所以为防止在训练数据上损失函数较小,来预测准确率较高的过拟合,使用dropout是一个有效的方法。那么dropout的出现实际上是为了避免特征维度太多,模型假设太复杂,参数太多,训练数据太少,噪声多等情况而导致过拟合问题的出现。那么为什么属性损失和ID损失却没有采用dropout的方法呢?原因是ID损失和属性损失本身就具有一定的泛化能力,更进一步的解释之后的随笔可能会进行阐述...

进入正文:

(1)欧氏距离    

  设A,B为两个属性向量,则它们的余弦相似度

  而 余弦距离(dist(A,B)) = 1 - 余弦相似度。

  关于欧氏距离与余弦距离:https://www.cnblogs.com/gczr/p/10219154.html

  推导如下:

  关于欧式距离及其扩展距离计算公式和相似度计算公式:https://blog.csdn.net/wangdong2017/article/details/81302799

(2)对比损失函数:关于对比损失函数,可以联系交叉熵来去理解,区别在于,交叉熵利用的是概率,而对比损失函数利用的是两图片特征向量的距离。同时,对比损失函数还需要自己设定适当的阈值。 对比损失函数中所使用的(z)+函数实质为Relu函数,这里不再展开。

(3)相对距离与绝对距离

  举个栗子:

  绝对距离:前提需要定个水平点,喜马拉雅山高8800多米,这是绝对距离。

  相对距离:跟参照物比较得到的距离叫做相对距离。我和电脑的距离是1米,这就是相对距离。

(4)小的思考:四元组损失的弱推动作用,感觉是三元组损失中da,p的一个延展,弱推动作用考虑正负样本间的绝对距离,并在推开负样本对的同时也不会太影响a的特征,相比于三元组损失,四元组损失的效果明显是要好的。关于推开负样本以及拉近正样本,属于聚类范围,文章往下看也能看到相应的解释啦。

(5)LSTM:关于LSTM的原理解释因能力有限,不知道怎么来概述,找了目前为止遇见的最通俗易懂的LSTM及其变种的原理解释,链接如下:

  https://www.jianshu.com/p/95d5c461924c

(6)ROI(Region Of Interest):可以简易理解为在图像中提取感兴趣的领域(目标领域),即在要处理的图像中提取出的要处理的区域。

  实践解释https://blog.csdn.net/bjbz_cxy/article/details/79747100

  原理解析https://blog.csdn.net/zw__chen/article/details/83930701

  在拼接时还可做个alpha融合优化,感兴趣可以查阅相关资料

(7)仿射变换:如图

(8)FFN

  FFN由两部分组成。第一部分使用了传统的CNN(卷积、池化、激活函数)来处理输入图像;第二部分使用额外的手动特征来表示相同的图像。这两个子网络最终联系在一起来产生一个更加充分的图像描述,并且第二个部分在学习期间能够调整第一部分。最终,从Fusion Layer 产生一个4096D 的特征。如图:

关于FEN-C2(应该还有FEN-P2)与FEN-C3(+FEN-P3)子网络没有相关解释,可能需要一定时间去找到相关资料,嗷嗷嗷。

猜你喜欢

转载自www.cnblogs.com/Warmchay/p/12168638.html
今日推荐