NAIS: Neural Attentive Item Similarity Model for Recommendation简析

NAIS: Neural Attentive Item Similarity Model for Recommendation

PRELIMINARIES

Standard Item-based CF

为了预测用户u对于物品i的评分，ItemCF的最基本思想是计算物品i与用户u之前交互过的所有物品的相似性，预测评分计算公式如下：

$R_u^+$是用户交互过的所有物品， $s_{ij}$是物品i与j的相似性， $r_{uj}$表示用户u对物品j的爱好程度，可以是实数比如说用户打得分数，也可以是隐式的反馈，如点击为1，未点击为0。

对于cf这种基于启发式的方法来估计物品相似度，它不是专门为推荐产生的优化，所以可能不会产生最优的表现。所以接下来我们将介绍Learning-based Methods，这些方法可以自适应地从数据中学习item相似度，从而提高itemCF的准确性。

Learning-based Methods for Item-based CF

SLIM方法如下：

上面的式子同时使用L1正则和L2正则，防止了过拟合，增加了模型的稀疏性。同时保证S大于等于0，使相似性计算有意义，S的对角为0则是为了消除目标物品本身对于预测的影响。

尽管更好的推荐准确率被实现了，但是由于S有 $I^2$个元素使得计算复杂度为O( $I^2$),同时模型只能学习同时被打过分的物品之间的两两的相似性。

因此提出了FISM：

FISM只考虑隐式反馈。对于上面的预测模型，可以通过优化推荐的标准损失（对数损失或者平方损失）来学习物品的嵌入向量表示p和q。

虽然FISM方法取得了不错的性能，但我们认为，当获得用户的表示时，它对用户的所有历史项目的平等处理会限制其表示能力。因此，我们将注意力机制加入其中，用于区分历史item的重要性，提出了NASI模型。

NAIS

框架图如下：

在模型中，我们对活跃用户的注意力权重进行一定的惩罚，如下：

而模型的损失函数使用对数损失+L2正则：