16 推荐系统

16 推荐系统

16.1 问题形式化

$n_u = no. users$，用户数量
$n_m = no. movies$，电影数量

$r(i,j)=1 \ if \ user \ j \ has \ rated \ movie \ i$
$y(i,j)= rating \ given\ by \ user\ j \ to \ movie\ i\ (defined \ only\ if\ r(i,j)=1)$

$\theta^{(j)}=$用户$j$的特征向量
$x^{(i)}=$电影$i$的特征向量

$m^{(j)}=$用户$j$评分的电影数量

16.2 开胃菜：基于内容的推荐系统

要推荐，先要知道用户喜欢什么，基于该用户已经评分的电影，去预测他对未评分电影可能的评分，如果评分高，就可以推荐给他。

基于内容的推系统必须预先知道要推荐的东西——电影的特征向量
除图片中的特征$x_1$、$x_2$以外，设置特征$x_0 = 1$
则

$$x^{(1)}=\begin{bmatrix} 1\\ 0.9 \\ 0 \end{bmatrix}$$
特征数为n=2，则 $\theta^{(j)}=R^{n+1}$，即 $R^3$
则预测用户 $j$对电影 $i$的评分： $(\theta^{(j)})^Tx^{(i)}$
对单个的用户 $j$而言，这个一个线性回归问题，问题的关键在于学习到参数 $\theta^{(j)}$

模型：

$$(\theta^{(j)})^Tx^{(i)}$$
最小化： $$min_{\theta^{(j)}}\frac{1}{2m^{(j)}}\sum_{i:r(i,j)=1}[(\theta^{(j)})^Tx^{(i)}-y^{(i,j)}]^2+\frac{\lambda}{2m^{(j)}}\sum_{k=1}^n(\theta_k^{(j)})^2$$

为了便于计算，去掉用户$j$评分的电影数量：

$$min_{\theta^{(j)}}\frac{1}{2}\sum_{i:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{k=1}^n(\theta_k^{(j)})^2$$
对于所有用户 ：
$$min_{\theta^{(1)},...,\theta^{(n_u)}}\frac{1}{2}\sum_{j=1}^{n_u}\sum_{i:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{j=1}^{n_u}\sum_{k=1}^n(\theta_k^{(j)})^2$$
即代价函数：
$$J(\theta^{(1)},...,\theta^{(n_u)})=\frac{1}{2}\sum_{j=1}^{n_u}\sum_{i:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{j=1}^{n_u}\sum_{k=1}^n(\theta_k^{(j)})^2$$
最小化代价函数
梯度下降：
$$\theta_k^{(j)}:=\theta_k^{(j)}-\alpha\sum_{i;r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i)}\right)x^{(i)}_k,\ ( for \ k=0)$$
$$\theta_k^{(j)}:=\theta_k^{(j)}-\alpha\left(\sum_{i;r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i)}\right)x^{(i)}_k+\lambda\theta_k^{(j)}\right),\ (for \ k\neq0)$$

16.3 正餐：协同过滤collaborative filtering

基于内容的推荐系统必须预先对每一部电影都人为的给定一个特征向量，绝无可能把每部电影看完然后再做推荐系统。所以现实中面临的局面是：

没有电影的特征向量
也没有用户的特征向量
仅有用户对部分电影的评分
即：$(\theta^{(1)})^Tx^{(1)}=5=y^{(1,1)}$

现在：
假设已知用户特征向量$\theta^{(1)},...\theta^{(n_u)}$，去学习$x^{(i)}$:

$$min_{x^{(i)}}\frac{1}{2}\sum_{j:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{k=1}^n(x_k^{(i)})^2$$
推广到所有电影：
$$min_{x^{(i)}}\frac{1}{2}\sum_{i=1}^{n_m}\sum_{j:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{i=1}^{n_m}\sum_{k=1}^n(x_k^{(i)})^2$$

结合16.2，给出$\theta$，就能得到$x$，反过来，给出$x$，就能得到$\theta$。但我们都没有，只有movie ratings电影评分。
那么，随机给定$\theta$，然后：

$$\theta\to x\to\theta\to x...$$
这就是基本的协同过滤算法，根据每一个用户对一部分电影的评分，通过不断的优化 $\theta$和 $x$，预测用户对电影的评分

16.4 再升级：实用算法

• 改进：
  代价函数包含所有参数，同时优化$\theta$和$x$:
  $$J(x^{(1)},...,x^{(n_m)},\theta^{(1)},...,\theta^{(n_u)})=\frac{1}{2}\sum_{(i,j):r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i,j)}\right)^2+\frac{\lambda}{2}\sum_{i=1}^{n_m}\sum_{k=1}^n(x_k^{(i)})^2+\frac{\lambda}{2}\sum_{j=1}^{n_u}\sum_{k=1}^n(\theta_k^{(j)})^2$$
  $$min_{x^{(1)},...,x^{(n_m)},\theta^{(1)},...,\theta^{(n_u)}}J(x^{(1)},...,x^{(n_m)},\theta^{(1)},...,\theta^{(n_u)})$$

• 优点：

  1. 同时优化，不需要再反复计算，即，不需要$\theta\to x\to\theta\to x...$
  2. 不再添加$x_0=1$，$x \in R^n$，$\theta \in R^n$

• 算法

  1. 初始化，用小的随机数初始化$x^{(1)},...,x^{(n_m)},\theta^{(1)},...,\theta^{(1)}$
  2. 最小化代价函数，用梯度下降（或其他高级优化算法）
     for every $j=1,...,n_u,i=1,...,n_m$:
     $$\theta_k^{(j)}:=\theta_k^{(j)}-\alpha\left(\sum_{i:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i)}\right)x^{(i)}_k+\lambda\theta_k^{(j)}\right)$$
     $$x_k^{(i)}:=x_k^{(i)}-\alpha\left(\sum_{j:r(i,j)=1}\left((\theta^{(j)})^Tx^{(i)}-y^{(i)}\right)\theta^{(j)}_k+\lambda x_k^{(i)}\right)$$
  3. 对于一个用户对某一部电影的评分，用户特征为$\theta$，电影特征为$x$，则预测该用户对该电影的评分为：
     $$\theta^Tx$$

  16.5 向量化：低秩矩阵分解

  将用户对电影的评分情况写成矩阵：
  
  以及预测值矩阵：
  
  那么可以将预测值矩阵做低秩矩阵分解：
  

  $$\begin{bmatrix} (x^{(1)})^T \\ \vdots\\ (x^{(n_m)})^T \end{bmatrix}$$
  $$\begin{bmatrix} (\theta^{(1)})^T \\ \vdots\\ (\theta^{(n_m)})^T \end{bmatrix}$$
  则predicted ratings = $X\Theta^T$

16.5(2) 相似性：推荐

• 电影$j$和电影$i$的相似性：
  $$\begin{Vmatrix} x^{(i)}- x^{(j)}\\ \end{Vmatrix}$$
  如果小，则相似
• 如果用户现在在看电影$i$，可以找5部$\begin{Vmatrix} x^{(i)}- x^{(j)}\ \end{Vmatrix}$最小的电影甩到推荐页面上。
• $(\theta^{(j)})^Tx^{(i)}$也是一种推荐手段

16.6 细节：均值归一化

• 如果一个人，刚注册，还没有给任何电影评分，我们怎么去推荐？
  
  利用16.4协同过滤算法，代价函数的第一部分为0（没有标签y），正则化部分将用户5的特征最小化为 $$\theta^{(5)}=\begin{bmatrix}0\\0\end{bmatrix}$$
  则由$(\theta^{(5)})^Tx^{(i)}$，预测用户5对所有的电影评分均为0。
  没有办法进行推荐。
  用均值归一化解决。
  解决的思路就是假定该用户是大众口味，大家喜欢的，他也喜欢。
• 均值归一化
  
  其中，$\mu$为电影的均值，右侧是原始的评分矩阵减去均值。
  那么，在预测user j on movie i的评分时，应该是：
  $$(\theta^{(j)})^Tx^{(i)} + \mu^{(i)}$$
  那么新用户的评分就是均值$\mu$。