深度学习在推荐系统的应用

目录结构

• 模型原始论文
  
• 模型架构
  
• 模型原理
  
• 模型特点
  
• 模型案例

模型集合

Wide and Deep Learning

• 模型原始论文
  Wide & Deep Learning for Recommender Systems
  
• 模型架构
  
  
• 模型原理
  This approach combines the strengths of memorization and generalization. It's useful for generic large-scale regression and classification problems with sparse input features (e.g., categorical features with a large number of possible feature values).其中wide model部分是logistic regression with sparse features and transformations,deep model部分是feed-forward neural network with an embedding layer and several hidden layers
  

• 模型特点

• 模型案例
  wide_n_deep_tutorial.py

youtube recommendation

• 模型原始论文
  Deep Neural Networks for YouTube Recommendations
  
• 模型架构
  1.候选集生成
  
  2.排序
  
  
• 模型原理
  1.候选集生成
  隐式用户行为作为特征,用户完整观看视频是一个正例
  损失函数是分层softmax,将稀疏的视频ID和搜索词embedding后求平均
  负样本抽样与样本权重,样本选取是从用户的历史视频观看记录中随机拿出来一个作为正样本，然后只用这个视频之前的历史观看记录作为输入

2.排序
特征工程包括:
描述用户以前与item本身和其他相似item的互动,视频推荐展现次数,embedding离散特征,连续特征分位数归一化以及归一化之后的幂等变化
样本权重是根据观看时长进行加权

• 模型特点
  
• 模型案例
  待自己实现

DeepFM

• 模型原始论文
  DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
  
• 模型架构
  
• 模型原理
  离散数据一般进行one-hot编码，连续数据使用本身的数值或者离散之后的one-hot编码。
  
• 模型特点
  DeepFM的结构中包含了因子分解机部分以及深度神经网络部分，分别负责低阶特征的提取和高阶特征的提取。
  与Wide&Deep Model不同，DeepFM在训练过程中不需要特征工程。
  DeepFM的训练更高效。与Wide&Deep Model不同，DeepFM共享相同的输入与embedding向量。在Wide&Deep Model中，因为在Wide部分包含了人工设计的成对特征组，所以输入向量的长度也会显著增加。这也增加了其复杂性。

• 模型案例
  tensorflow-DeepFM

• Lattice

• DeepFM
• Neural FM
• Deep Cross(DCN)
• 贝叶斯深度学习

• TreeBased DNN