这篇文章总结一下和loss相关的问题,总结一下loss所牵涉的东西
(1) Cross Entropy 交叉熵来构建loss
(2) 两个概率的 KL距离 构建loss
(3) 对于概率值直接取log
(4) 最小均方误差