矩阵分解小结

1.LFM

每个用户和每个物品都用一个k维向量表示，意义为用户u与k个隐藏主题的相关程度以及物品i与k个隐藏主题的相关程度用户u对物品i的评分，用户u对物品i的预测评分如下

$$\hat r_{ui}=p_u^Tq_i$$

目标函数为

$$\sum_{(u,i)\in S}(\hat r_{ui}-p_u^Tq_i)^2 + \lambda \sum_u ||p_u||^2 + \gamma \sum_i ||q_i||^2$$

用梯度下降求解上述目标函数。

2.SVD

在LFM的基础上添加了全局偏置、用户偏置以及物品偏置，用户u对物品i的预测评分如下

$$\hat r_{ui}=p_u^Tq_i + u + b_u + b_i$$

目标函数为

$$\sum_{(u,i)\in S}(r_{ui} - u - b_u - b_i - p_u^Tq_i )^2 +\lambda \sum_u ||p_u||^2 + \gamma \sum_i ||q_i||^2$$

3.SVD++

$$\hat r_{ui}=u + b_u + b_i + q_i^T(p_u+\frac{1}{\sqrt {|N(u)|}}\sum_{j\in N(u)} y_j)$$