deeplearning.ai 总结 -Face recognition中的Triplet loss

deeplearning.ai 总结 -Face recognition中的Triplet loss

flyfish

triplet
英 [‘trɪplɪt] 美 [‘trɪplət]
n. 三个一组；三连音符；三元组中的一个

triplet是一个三元组,由Anchor，Positive，Negative组成
Anchor表示参考样本
Positive表示同类样本，
Negative表示异类样本
期望是Positive与Anchor是一样的，Negative和Anchor是不一样的
用符号$x_i^a$表示参考样本，$x_i^p$表示同类样本， $x_i^n$表示异类样本，$\alpha$表示特定阈值(threshold)

损失函数定义
$L = {\kern 1pt} \;\arg \min {\sum\limits_i {\left( {\left\| {x_i^a - x_i^p} \right\|_2^2 - \left\| {x_i^a - x_i^n} \right\|_2^2 +\alpha} \right)} _ + }$

$L = \sum^N{max\{ \left\| f(x^a) - f(x^p) \right\|^2_2 + \alpha - \left\| f(x^a) - f(x^n) \right\|^2_2,\ 0 \}}$

$\left\| {x_i^a - x_i^p} \right\|_2^2 + \alpha < \left\| {x_i^a - x_i^n} \right\|_2^2$

$\left\| {x_i^a - x_i^p} \right\|_2^2 -\left\| {x_i^a - x_i^n} \right\|_2^2 + \alpha < 0$

它与L2范数，又叫岭回归”（Ridge Regression），也叫权值衰减(weight decay)
${\displaystyle \left\|{\boldsymbol {X}}\right\|_{2}:={\sqrt {x_{1}^{2}+\cdots +x_{n}^{2}}}.}$,最小二乘,欧氏距离 很相似