笔记：Structure-Constrained Low-Rank and Partial Sparse Representation with Sample Selection for image

Liu, Y., Li, X., Liu, C., et al., Structure-Constrained Low-Rank and Partial Sparse Representation with Sample Selection for image classification. Pattern Recognition, 2016. 59: p. 5 - 13.
本文是这篇 Pattern Recognition 期刊论文的笔记，主要是对文中的理论方法进行展开详解。本人学术水平有限，文中如有错误之处，敬请指正。

摘要： 此文提出了一个结构约束低秩、部分稀疏表示算法，用于图像分类。首先，结构约束低秩字典学习（Structure-Constrained Low-Rank Dictionary Learning, SCLRDL）算法被提出，将结构约束和低秩约束加入到系数矩阵中。其次，假设测试样本的系数是稀疏的，并与训练样本的表示是相关联的，提出了一个低秩和部分稀疏表示（Low-Rank and Partial Sparse Representation, LRPSR）算法，将训练样本和测试样本结合起来形成一个新的数据矩阵，再找出一个低秩、稀疏的数据表示，通过一个学习到的字典。最后，设计一个样本筛选（Sample Selection）步骤，来加速 LRPSR 。

1 简介

识别图像和视频中的物体所属的类别是对于人来说很简单的任务，但是被证明对于计算机是很困难的。目前很多的研究中，稀疏表示（sparse representation）和低秩矩阵分解（low-rank matrix factorization）被大量关注，也提出了许多的图像分类的算法。

稀疏表示是用一个基或超完备字典的元素的线性组合来近似一个已知的信号 1 。其在人脸识别的应用上效果很不错。超完备字典在稀疏表示应用的性能表现上有很重要的作用 2 。一些字典学习的算法提出，来学习一个简洁、判别性的字典 3 。

低秩矩阵分解 4，将已知的矩阵分解为一个低秩的部分和一个稀疏的部分。Yang et al. 提出了 FDDL 5，基于 Fisher 准则，将整个字典分成按类别的子字典，并将它们分别优化。Liu et al. 提出了 BDDL 6，也是将字典分成各个子字典，并加入了一个字典相关项。Ma et al. 提出了 DLRD_SR 7，将低秩约束加入于字典，基于训练样本的相关性。Zhang et al. 8 提出了结构低秩表示算法。其优化字典和系数时，同时加入了稀疏和低秩的约束，但是在测试阶段，需要多个样本来计算稀疏矩阵的秩，这方法不实用。（这篇会议论文，本人看过，与这里描述的不一致，其测试方法采用最近邻分类，可以一个一个样本预测，也可以多个样本预测）

此文提出一种新的图像分类的算法，用于学习图像的字典和系数，并加上稀疏和低秩的约束。

• 在训练阶段，此文提出了 SCLRDL，将字典分成每个类别的子字典，减小字典之间的相关性，约束系数中非零项的元素的位置，并约束系数矩阵的秩。

• 在测试阶段，此文设计了 LRPSR，将测试样本和训练样本组合起来，使得算法更加实用。

• 为了加速 LRPSR，设计了样本筛选步骤，减少数据矩阵中一些多余的训练样本，降低计算成本。

2 相关工作

稀疏表示，低秩矩阵分解相关，略

从这里开始，原文的符号有许多错误，上下文不一致。本文均已修改为正确形式。

3 提出的算法

3.1 SCLRDL

3.1.1 动机

大部分的字典学习算法在学习时，一起考虑所有类别的样本。而此文的 SCLRDL 算法学习按类别的子字典，并加入字典相关项，加强字典的判别性。

3.1.2 稀疏低秩假设

训练阶段，给予训练数据 $\{ \mathbf{X} \}_{i=1}^{N}$，其中 $N$ 是训练样本的个数，可以被分为多个子集 $\{ \mathbf{X}_{j} \}_{j=1}^{C}$，其中 $C$ 是类别的数量，$\mathbf{X}_j$ 是第 $j$ 个类别的训练样本的子集。研究表明，如果结合稀疏和低秩的约束，可以提升分类的性能。首先给出如下的 SCLRDL 的目标函数：

$$\begin{equation} \tag{1} \arg\min_{\mathbf{D},\mathbf{Z},\mathbf{E}} \ \alpha ||\mathbf{Z}||_* + \beta ||\mathbf{E}||_\ell + \delta ||\mathbf{Z}||_1, \quad \text{s.t.} \ \mathbf{X} = \mathbf{D}\mathbf{Z} + \mathbf{E}, \end{equation}$$
其中 $\alpha,\beta,\delta$ 是权衡参数， $||\mathbf{E}||_\ell$ 表示不同的噪声，比如平方 Frobenius 范数 $||\cdot||_F^2$ 表示高斯噪声， $\ell_1$ 范数表示随机噪声。 $||\mathbf{Z}||_*$ 和 $||\mathbf{Z}||_1$ 迫使稀疏矩阵 $\mathbf{Z}$ 低秩、稀疏的性质。

3.1.3 类内约束

研究发现有一些属于不同类别的样本也是相似的，比如人脸识别中。所以系数矩阵的全局约束可能不合适。此文通过将训练样本、系数矩阵、和误差矩阵，都按类别分开，各自进行约束。将目标函数重写为

$$\begin{equation} \tag{2} \arg\min_{\mathbf{D},\mathbf{Z}_i,\mathbf{E}_i} \ \sum_{i=1}^{C} \alpha ||\mathbf{Z}_i||_* + \sum_{i=1}^{C} \beta ||\mathbf{E}_i||_\ell + \sum_{i=1}^{C} \delta ||\mathbf{Z}_i||_1 \quad \text{s.t.} \ \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i + \mathbf{E}_i . \end{equation}$$
这里强调每一个类别的系数矩阵 $\mathbf{Z}_i$ 是低秩、稀疏的，而不是直接约束整体的系数矩阵 $\mathbf{Z}$ 。

3.1.4 类别子字典

关联每一个字典元素到一个标签，即一个监督性字典，会提升算法的性能。比如

$$\begin{equation} \tag{3} \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i = \mathbf{D}_1 \mathbf{Z}_i^1 + \mathbf{D}_2 \mathbf{Z}_i^2 + \cdots + \mathbf{D}_C \mathbf{Z}_i^C = [\mathbf{D}_1 \ \mathbf{D}_2 \ \cdots \ \mathbf{D}_C] \begin{bmatrix} \mathbf{Z}_i^1 \\ \mathbf{Z}_i^2 \\ \vdots \\ \mathbf{Z}_i^C \\ \end{bmatrix} , \end{equation}$$
其中 $\mathbf{Z}_i^j$ 是 $\mathbf{Z}_i$ 的第 $j$ 行部分，对应子字典 $\mathbf{D}_j$。很自然的假设是，来自第 $i$ 类的样本 $\mathbf{X}_i$ 主要由 $\mathbf{D}_i$ 重建，即
$$\begin{equation} \tag{4} \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i = \mathbf{D}_1 \mathbf{Z}_i^1 + \mathbf{D}_2 \mathbf{Z}_i^2 + \cdots + \mathbf{D}_C \mathbf{Z}_i^C \approx \mathbf{D}_i \mathbf{Z}_i^i . \end{equation}$$
而且，这表明了 $\mathbf{Z}_i$ 的稀疏性，所以这里忽略项 $\sum_{i=1}^{C} \delta ||\mathbf{Z}_i||_1$，加入一个额外的约束。目标函数重写为
$$\begin{equation} \tag{5} \arg\min_{\mathbf{D}, \mathbf{Z}_i, \mathbf{E}_i} \ \sum_{i=1}^{C} \alpha ||\mathbf{Z}_i||_* + \sum_{i=1}^{C} \beta ||\mathbf{E}_i||_\ell \quad \text{s.t.} \ \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i +\mathbf{E}_i, \ \Omega_{\pi_i} (\mathbf{Z}_i) = \mathbf{0} , \end{equation}$$
其中 $\Omega_{\pi_i} (\mathbf{Z}_i) = \mathbf{0}$ 使得 $\mathbf{Z}_i$ 的所有行为零，除了对应第 $i$ 类的行。

3.1.2 字典相关项

为了加强字典的判别性，目标函数中又加入了一个字典相关项 $\sum_{i \neq j} \gamma ||\mathbf{D}_i^T \mathbf{D}_j||_F^2$ 。9 中首先介绍了这一项，并尝试保持不同类别的元素之间的正交性。最终的目标函数给出如下

$$\begin{equation} \tag{6} \arg\min_{\mathbf{D}, \mathbf{Z}_i, \mathbf{E}_i} \ \sum_{i=1}^{C} \alpha ||\mathbf{Z}_i||_* + \sum_{i=1}^{C} \beta ||\mathbf{E}_i||_\ell + \sum_{i \neq j} \gamma ||\mathbf{D}_i^T \mathbf{D}_j||_F^2 \quad \text{s.t.} \ \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i +\mathbf{E}_i, \ \Omega_{\pi_i} (\mathbf{Z}_i) = \mathbf{0} . \end{equation}$$

3.1.6 优化过程

优化步骤可以分为两步，并迭代进行。首先对 $\mathbf{Z}_i, \mathbf{E}_i$ 进行更新，固定 $\mathbf{D}$。加入一个辅助变量 $\mathbf{J}$，

$$\begin{equation} \tag{7} \arg\min_{\mathbf{J}_i, \mathbf{Z}_i, \mathbf{E}_i} \ \sum_{i=1}^{C} \alpha ||\mathbf{J}_i||_* + \sum_{i=1}^{C} \beta ||\mathbf{E}_i||_\ell \quad \text{s.t.} \ \mathbf{X}_i = \mathbf{D} \mathbf{Z}_i +\mathbf{E}_i, \ \mathbf{J}_i = \mathbf{Z}_i, \ \Omega_{\pi_i} (\mathbf{Z}_i) = \mathbf{0} . \end{equation}$$
每一个类别的増广 Lagrangian 函数是
$$\begin{equation} \tag{8} \begin{aligned} \arg\min_{\mathbf{J}_i, \mathbf{Z}_i, \mathbf{E}_i} \ \alpha||\mathbf{J}_i||_* &+ \ \beta ||\mathbf{E}_i||_\ell + \langle \Lambda_1, \mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i \rangle + \langle \Lambda_2, \mathbf{Z}_i - \mathbf{J}_i \rangle \\ &+ \frac{\mu}{2} \left( ||\mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i||_F^2 + ||\mathbf{Z}_i - \mathbf{J}_i||_F^2 \right) . \end{aligned} \end{equation}$$
变量可以交替进行更新:

• 对于变量 $\mathbf{J}_i$，目标函数写为
  

  $$\begin{equation} \tag{9} \arg\min_{\mathbf{J}_i} \ \alpha ||\mathbf{J}_i||_* + \langle \Lambda_2, \mathbf{Z}_i - \mathbf{J}_i \rangle + \frac{\mu}{2} ||\mathbf{Z}_i - \mathbf{J}_i||_F^2 = \arg\min_{\mathbf{J}_i} \ \alpha ||\mathbf{J}_i||_* + \frac{\mu}{2} ||\mathbf{J}_i - ( \mathbf{Z}_i + \Lambda_2 / \mu)||_F^2 . \end{equation}$$
  可以使用 singular value thresholding 有效求解
  $$\begin{equation} \tag{10} \mathbf{U} \mathbf{S} \mathbf{V}^T = \text{svd} (\mathbf{Z}_i + \Lambda_2 / \mu), \ \mathbf{J}_i = \mathbf{U} {S}_{\alpha / \mu} (\mathbf{S}) \mathbf{V}^T , \ S_{\alpha / \mu}(x) = \mathrm{sign}(x) \cdot \max \{ |x| - {\alpha / \mu}, 0 \} . \end{equation}$$

• 对于变量 $\mathbf{Z}_i$，目标函数写为
  

  $$\begin{equation} \tag{11} \arg\min_{\mathbf{Z}_i} \ \langle \Lambda_1, \mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i \rangle + \langle \Lambda_2, \mathbf{Z}_i - \mathbf{J}_i \rangle + \frac{\mu}{2} \left( ||\mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i||_F^2 + ||\mathbf{Z}_i - \mathbf{J}_i||_F^2 \right) . \end{equation}$$
  通过令其导数为零，可以得到 $\mathbf{Z}_i$ 的表达式
  $$\begin{align} & -\mathbf{D}^T \Lambda_1 + \Lambda_2 + \mu [- \mathbf{D}^T ( \mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i ) + ( \mathbf{Z}_i - \mathbf{J}_i ) ] = 0, \\ & \mathbf{Z}_i = (\mathbf{D}^T\mathbf{D} + \mathbf{I})^{-1} (\mathbf{D}^T \mathbf{X}_i - \mathbf{D}^T \mathbf{E}_i + \mathbf{J}_i + (\mathbf{D}^T \Lambda_1 - \Lambda_2) / \mu) . \end{align}$$
  接着将约束 $\Omega_{\pi_i} (\mathbf{Z}_i) = \mathbf{0}$ 作用于每一个 $\mathbf{Z}_i$（原文中并没有明确指出如何实现）。

• 对于变量 $\mathbf{E}_i$，如果 $||\mathbf{E}||_\ell$ 是 $||\mathbf{E}||_1$，目标函数写为
  

  $$\begin{align} &\arg\min_{\mathbf{E}_i} \ \beta ||\mathbf{E}_i||_1+ \langle \Lambda_1, \mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i \rangle + \frac{\mu}{2} ||\mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i||_F^2 , \tag{12} \\ & \arg\min_{\mathbf{E}_i} \ \beta ||\mathbf{E}_i||_1 + \frac{\mu}{2} ||\mathbf{E}_i - ( \mathbf{X}_i - \mathbf{D} \mathbf{Z}_i + \Lambda_1 / \mu ) ||_F^2 . \tag{13} \end{align}$$
  通过 soft-thresholding 或 shrinkage 操作求解
  $$\begin{equation} \tag{14} \mathbf{E}_i = S_{\beta/\mu}(\mathbf{X}_i - \mathbf{D} \mathbf{Z}_i + \Lambda_1 / \mu) . \end{equation}$$
  如果 $||\mathbf{E}||_\ell$ 是 $||\mathbf{E}||_F^2$，可以直接忽略这个约束，应为误差已经在 $||\mathbf{X}_i - \mathbf{D}\mathbf{Z}_i||_F^2$ 中被考虑到了。

• 更新其他一些参数
  

  $$\begin{equation} \tag{15} \Lambda_1 = \Lambda_1 + \mu (\mathbf{X}_i - \mathbf{D} \mathbf{Z}_i - \mathbf{E}_i), \ \Lambda_2 = \Lambda_2 + \mu (\mathbf{Z}_i - \mathbf{J}_i), \ \mu = \min (\rho\mu, \mu_\max). \end{equation}$$

• 在变量 $\mathbf{Z}_i，\mathbf{E}_i$ 更新之后，固定它们，继续更新字典 $D$，每一个类别的目标函数（重新考虑）如下
  

  $$\begin{equation} \tag{16} \arg\min_{\mathbf{D}_k} \ L(\mathbf{D}_k) = \arg\min_{\mathbf{D}_k} \ \frac{1}{2} || \mathbf{X}_k - \mathbf{D}_k \mathbf{Z}_k^k ||_F^2 + \frac{\gamma}{2} \sum_{i \neq k} || \mathbf{D}_i^T \mathbf{D}_k ||_F^2 , \end{equation}$$
  其中 $\mathbf{Z}_k^k$ 是字典 $\mathbf{Z}_k$ 所有行中对应类别 $k$ 的一部分。使用梯度下降法更新 $L(\mathbf{D}_k)$，
  $$\begin{align} \mathbf{D}_k &= \mathbf{D}_k - \tau \nabla L , \tag{17} \\ \mathbf{D}_k &= \mathbf{D}_k - \tau \left( \gamma \sum_{i \neq k} (\mathbf{D}_i \mathbf{D}_i^T)\mathbf{D}_k - (\mathbf{X}^k - \mathbf{D}_k \mathbf{Z}_k^k)(\mathbf{Z}_k^k)^T \right) . \tag{18} \end{align}$$
  这里 $\tau$ 是梯度下降的步长，通过直线搜索求得（搜索令下一步迭代的值最小的步长），步骤为带入 $L(\mathbf{D}_k - \tau \nabla L)$，求其关于 $\tau$ 的梯度为零 ${\partial L}/{\partial \tau} = 0$，解得最优的 $\tau$，
  $$\begin{equation} \tag{19} \tau = - \frac{\text{tr}(\mathbf{A}^T \nabla L \mathbf{Z}_k^k) - \gamma \sum_{i \neq k} \text{tr}(\mathbf{B}\nabla L)}{||\nabla L \mathbf{Z}_k^k||_F^2 + \gamma \sum_{i \neq k} ||\mathbf{D}_i^T\nabla L||_F^2 }, \ \mathbf{A} = \mathbf{X}_k - \mathbf{D}_k \mathbf{Z}_k^k, \ \mathbf{B} = \mathbf{D}_k^T \mathbf{D}_i \mathbf{D}_i^T . \end{equation}$$
  原文的公式有错误，Appendix 将给出具体的推导过程。每一次梯度更新之后都要重新计算步长，计算代价很大，真的实用？

3.2 低秩部分稀疏表示

3.2.1 动机

这里考虑如何计算测试样本的系数。传统的方法，比如 OMP 10，iterative hard threshold 11，fast iterative shrinkage-thresholding algorithm 12，LARS 13 和 SBL 14 都不能很好的利用 SCLRDL 学习到的字典。此文学习到的训练样本的系数是低秩、稀疏的，但是其他一些传统的稀疏编码算法，只考虑了稀疏性约束。15 是一个好的方法，但是不适用于大量的测试样本进行分类（此文的描述与该引用中的方法的描述不符）。

此文设计一个更实用的稀疏编码的算法用于图像分类任务，低秩部分稀疏表示（Low-Rank and Partial Sparse Representation, LRPSR）。（根据公式推导来看，方法太复杂，不一定也实用）

3.2.2 目标函数

给定一个测试样本 $\mathbf{x}$，其类别是与训练样本 $\mathbf{X}$ 中的某一些样本相同，所以 $\mathbf{x}$ 是与 $\mathbf{X}$ 相关的。利用这样的相关性，将训练样本和测试样本结合起来，形成一个新的矩阵 $\tilde{\mathbf{X}} = [\mathbf{X} \mathbf{x}]$，其对应的系数 $\tilde{\mathbf{Z}} = [\mathbf{Z} \mathbf{z}]$，这里的 $\mathbf{Z}$ 训练样本的系数，在前一个阶段已经计算得到。$\tilde{\mathbf{Z}}$ 可以被分解为一个固定的部分，和一个未知的部分

$$\begin{equation} \tag{20} \tilde{\mathbf{Z}} = \mathbf{F} + \mathbf{W} , \end{equation}$$
其中 $\mathbf{F}$ 表示固定部分 $\mathbf{F} = [\mathbf{Z} \mathbf{0}]$， $\mathbf{W}$ 是未知的部分 $\mathbf{W} =[ \mathbf{O} \mathbf{z} ]$ 。将低秩约束加入 $\tilde{\mathbf{Z}}$，稀疏约束加入 $\mathbf{W}$，给出 LRPSR 的目标函数如下：
$$\begin{equation} \tag{21} \arg\min_{\tilde{\mathbf{Z}}, \mathbf{W}, \mathbf{E}} \ \alpha ||\tilde{\mathbf{Z}}||_* + \beta ||\mathbf{E}||_\ell + \eta ||\mathbf{W}||_1 \quad \text{s.t.} \ \tilde{\mathbf{X}} = \mathbf{D} \tilde{\mathbf{Z}} +\mathbf{E}, \ \tilde{\mathbf{Z}} = \mathbf{F} + \mathbf{W} , \ \pi_{\Omega} (\mathbf{W}) = \mathbf{O} , \end{equation}$$
其中 $\pi_{\Omega} (\mathbf{W}) = \mathbf{O}$ 表示将矩阵 $W$ 中除最后一列之外的所有元素置为零。

3.2.3 优化

加入一个辅助变量 $\mathbf{J}$，写出増广 Lagrangian 函数

$$\begin{equation} \tag{22} \begin{gathered} \arg\min_{\mathbf{J}, \tilde{\mathbf{Z}}, \mathbf{W}, \mathbf{E}} \ \alpha||\mathbf{J}||_* + \beta ||\mathbf{E}||_\ell + \eta ||\mathbf{W}||_1 + \langle \Lambda_1, \tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E} \rangle + \langle \Lambda_2, \tilde{\mathbf{Z}} - \mathbf{J} \rangle + \langle \Lambda_3, \tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W} \rangle \\ +\frac{\mu}{2} \left( ||\tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E}||_F^2 + || \tilde{\mathbf{Z}} - \mathbf{J} ||_F^2 + ||\tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W}||_F^2 \right). \end{gathered} \end{equation}$$
使用交替乘子法 ALM 求解

• 对于 $\tilde{\mathbf{Z}}$，目标函数如下
  

  $$\begin{equation} \tag{23} \begin{gathered} \arg\min_{\tilde{\mathbf{Z}}} \ \langle \Lambda_1, \tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E} \rangle + \langle \Lambda_2, \tilde{\mathbf{Z}} - \mathbf{J} \rangle + \langle \Lambda_3, \tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W} \rangle \\ +\frac{\mu}{2} \left( ||\tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E}||_F^2 + || \tilde{\mathbf{Z}} - \mathbf{J} ||_F^2 + ||\tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W}||_F^2 \right). \end{gathered} \end{equation}$$
  令其导数为零，得到
  $$\begin{equation} \tag{24} \tilde{\mathbf{Z}} = (\mathbf{D}^T\mathbf{D} + 2 \mathbf{I})^{-1} \left( \mathbf{D}^T (\tilde{\mathbf{X}} - \mathbf{E}) + \mathbf{F} + \mathbf{W} +\mathbf{J} + (\mathbf{D}^T \Lambda_1 - \Lambda_2 - \Lambda_3 )/\mu \right) . \end{equation}$$

• 对于 $\mathbf{J}$，目标函数
  

  $$\begin{equation} \tag{25} \arg\min_{\mathbf{J}} \ \alpha||\mathbf{J}||_* + \langle \Lambda_2, \tilde{\mathbf{Z}} - \mathbf{J} \rangle + \frac{\mu}{2} || \tilde{\mathbf{Z}} - \mathbf{J} ||_F^2 = \arg\min_{\mathbf{J}} \ \alpha||\mathbf{J}||_* + \frac{\mu}{2} || \mathbf{J} - ( \tilde{\mathbf{Z}} + \Lambda_2 / \mu)||_F^2 . \end{equation}$$
  直接使用 SVT 求解，
  $$\begin{equation} \tag{26} \mathbf{U} \mathbf{S} \mathbf{V}^T = \text{svd} (\tilde{\mathbf{Z}} + \Lambda_2 / \mu), \ \mathbf{J}_i = \mathbf{U} {S}_{\alpha / \mu} (\mathbf{S}) \mathbf{V}^T . \end{equation}$$

• 对于 $\mathbf{W}$，目标函数为
  

  $$\begin{equation} \tag{27} \begin{gathered} \arg\min_{\mathbf{W}} \ \eta ||\mathbf{W}||_1 + \langle \Lambda_3, \tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W} \rangle +\frac{\mu}{2} ||\tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W}||_F^2 , \\ \arg\min_{\mathbf{W}} \ \eta ||\mathbf{W}||_1 + \frac{\mu}{2} ||\mathbf{W} - (\tilde{\mathbf{Z}} - \mathbf{F} + \Lambda_3 / \mu)||_F^2 . \end{gathered} \end{equation}$$
  用 soft-thresholding 求解
  $$\begin{equation} \tag{28} \mathbf{W} = S_{\eta / \mu} ( \tilde{\mathbf{Z}} - \mathbf{F} + \Lambda_3 / \mu ). \end{equation}$$
  接着将约束 $\pi_{\Omega} (\mathbf{W}) = \mathbf{O}$ 应用于 $\mathbf{W}$ （这里与 $\ell_1$ 约束冲突，是否还有意义？）。

• 对于变量 $\mathbf{E}$，如果 $||\mathbf{E}||_\ell$ 是 $||\mathbf{E}||_1$，目标函数写为
  

  $$\begin{align} \tag{29} &\arg\min_{\mathbf{E}} \ \beta ||\mathbf{E}||_1 + \langle \Lambda_1, \tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E} \rangle + \frac{\mu}{2} ||\tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E}||_F^2 , \\ & \arg\min_{\mathbf{E}} \ \beta ||\mathbf{E}||_1 + \frac{\mu}{2} ||\mathbf{E} - ( \tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} + \Lambda_1 / \mu ) ||_F^2 . \tag{30} \end{align}$$
  通过 soft-thresholding 或 shrinkage 操作求解
  $$\begin{equation} \tag{31} \mathbf{E} = S_{\beta/\mu}(\tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} + \Lambda_1 / \mu) . \end{equation}$$
  如果 $||\mathbf{E}||_\ell$ 是 $||\mathbf{E}||_F^2$，可以直接忽略这个约束，应为误差已经在 $||\tilde{\mathbf{X}} - \mathbf{D}\tilde{\mathbf{Z}}||_F^2$ 中被考虑到了。

• 更新其他一些参数
  

  $$\begin{equation} \Lambda_1 = \Lambda_1 + \mu (\tilde{\mathbf{X}} - \mathbf{D} \tilde{\mathbf{Z}} - \mathbf{E}), \ \Lambda_2 = \Lambda_2 + \mu (\tilde{\mathbf{Z}} - \mathbf{J}), \ \Lambda_3 = \Lambda_3 + \mu (\tilde{\mathbf{Z}} - \mathbf{F} - \mathbf{W}),\ \mu = \min (\rho\mu, \mu_\max). \end{equation}$$

3.3 样本筛选

LRPSR 使用全部的训练集，可能会过大，计算很耗时。这里采用一个样本筛选步骤（Sample Selection, SS）16，从每一个类别中选择一小部分训练样本，使测试阶段的效率更高。

给定第 $k$ 类别的 $\mathbf{X}_k$，用 Euclidean 距离计算一个非相似矩阵 $\mathbf{S}$ 。考虑一个辅助的变量 $\mathbf{V}$，关联其非相似矩阵

$$\begin{equation} \tag{32} \mathbf{V} = \begin{bmatrix} \mathbf{v}_1^T \\ \vdots \\ \mathbf{v}_N^T \end{bmatrix} = \begin{bmatrix} v_{11} & v_{12} & \cdots & v_{1N} \\ \vdots & \vdots & \ddots & \vdots \\ {v}_{N1} & v_{N2} & \cdots & v_{NN} \\ \end{bmatrix} , \end{equation}$$
其中 $\mathbf{v}_i^T$ 表示矩阵 $\mathbf{V}$ 的第 $i$ 行。 $v_{ij}$ 可以解释为 $\mathbf{X}_k(i)$ 中的第 $i$ 个样本用于表示 $\mathbf{X}_k(j)$ 中的第 $j$ 个样本的概率。

用 $\mathbf{X}_k(i)$ 表示 $\mathbf{X}_k(j)$ 的代价为 $s_{ij}v_{ij}$ 。表示样本 $\mathbf{X}_k(j)$ 的所有样本代价为 $\sum_{i=1}^{N} s_{ij}v_{ij}$；表示所有样本 $\mathbf{X}$ 总代价为 $\sum_{j=1}^{N} \sum_{i=1}^{N} s_{ij}v_{ij}$ 。为了选择较少的样本表示 $\mathbf{X}_k$，意味着 $\mathbf{V}$ 应该是行稀疏矩阵。加入一个行稀疏约束项，最小化的代价函数如下

$$\begin{equation} \tag{33} \arg\min_{v_{ij}} \ \lambda \sum_{i=1}^{N} I(||\mathbf{v}_i||_p) + \sum_{j=1}^{N} \sum_{i=1}^{N} s_{ij}v_{ij} \quad \text{s.t.} \ \sum_{i=1}^{N} v_{ij} = 1 ,\ v_{ij} \geq 0 . \end{equation}$$
这个优化问题可以用 ALM 求解，具体的求解过程在 [16] 中给出。

3.4 分类

在获得了测试样本 $\mathbf{x}$ 的系数表示 $\mathbf{z}$ 之后，通过最小重建误差进行分类

$$\begin{equation} \tag{34} i^* = \arg\min_i \ ||\mathbf{x} - \mathbf{D}\Delta_i (\mathbf{z}) ||_2^2 , \end{equation}$$
其中 $\Delta_i (\mathbf{z})$ 表示设置除第 $i$ 类之外的元素为零。解释为：可以用对应的子字典和系数相乘减去样本 $\mathbf{x}$ 的最小残差得到标签类别。

实验

略

Appendix

直线搜索求梯度下降的步长 $\tau$

已知 $\ L(\mathbf{D}_k) = \frac{1}{2} || \mathbf{X}_k - \mathbf{D}_k \mathbf{Z}_k^k ||_F^2 + \frac{\gamma}{2} \sum_{i \neq k} || \mathbf{D}_i^T \mathbf{D}_k ||_F^2$，进而得到 $L(\mathbf{D}_k - \tau \nabla L)$ 的表达式

$$\begin{equation} \tag{35} L(\mathbf{D}_k - \tau \nabla L) = \frac{1}{2} || \mathbf{X}_k - (\mathbf{D}_k - \tau \nabla L) \mathbf{Z}_k^k ||_F^2 + \frac{\gamma}{2} \sum_{i \neq k} || \mathbf{D}_i^T (\mathbf{D}_k - \tau \nabla L) ||_F^2 . \end{equation}$$
直线搜索的定义，求令下一次迭代的值最小的步长 $\tau = \arg\min_\theta \ L(\mathbf{D}_k - \theta\nabla L)$，通过求其梯度并令其等于零，得到
$$\begin{equation} \begin{gathered} \frac{\partial L(\mathbf{D}_k - \theta\nabla L)}{\partial \tau} = \text{tr} \left( (\nabla L \mathbf{Z}_k^k)^T (\nabla L \mathbf{Z}_k^k \tau + \mathbf{X}_k - \mathbf{D}_k\mathbf{Z}_k^k) \right) + \gamma \sum_{i \neq k} \text{tr} \left( (\mathbf{D}_i^T\nabla L)^T (\mathbf{D}_i^T\nabla L \tau - \mathbf{D}_i^T \mathbf{D}_k) \right) = 0 , \\ \left( \text{tr} \left( (\nabla L \mathbf{Z}_k^k)^T \nabla L \mathbf{Z}_k^k \right) + \gamma \sum_{i \neq k} \text{tr} \left( (\mathbf{D}_i^T\nabla L)^T \mathbf{D}_i^T\nabla L \right) \right) \tau = -\text{tr} \left( (\nabla L \mathbf{Z}_k^k)^T (\mathbf{X}_k - \mathbf{D}_k\mathbf{Z}_k^k) \right) + \gamma \sum_{i \neq k} \text{tr} \left( (\mathbf{D}_i^T\nabla L)^T \mathbf{D}_i^T \mathbf{D}_k \right) , \\ \left( ||\nabla L \mathbf{Z}_k^k||_F^2 + \gamma \sum_{i \neq k} ||\mathbf{D}_i^T\nabla L||_F^2 \right) \tau = - \text{tr} \left( (\mathbf{X}_k - \mathbf{D}_k\mathbf{Z}_k^k)^T (\nabla L \mathbf{Z}_k^k) \right) + \gamma \sum_{i \neq k} \text{tr} \left( \mathbf{D}_k^T \mathbf{D}_i \mathbf{D}_i^T\nabla L \right) , \\ \tau = - \frac{\text{tr} \left( (\mathbf{X}_k - \mathbf{D}_k\mathbf{Z}_k^k)^T \nabla L \mathbf{Z}_k^k \right) - \gamma \sum_{i \neq k} \text{tr} \left( \mathbf{D}_k^T \mathbf{D}_i \mathbf{D}_i^T\nabla L \right)}{||\nabla L \mathbf{Z}_k^k||_F^2 + \gamma \sum_{i \neq k} ||\mathbf{D}_i^T\nabla L||_F^2}. \end{gathered} \end{equation}$$
其中使用几个迹的性质 $\text{tr}(A\pm B) = \text{tr} (A) \pm \text{tr} (B), \ \text{tr}(A^TA) = ||A||_F^2, \ \text{tr}(A) = \text{tr} (A^T)$，证毕。

---

1. Zhang, Z., Xu, Y., Yang, J., Li, X., & Zhang, D. (2015). A survey of sparse representation: algorithms and applications. IEEE access, 3, 490-530. ↩
2. Wright, J., Yang, A. Y., Ganesh, A., Sastry, S. S., & Ma, Y. (2009). Robust face recognition via sparse representation. IEEE transactions on pattern analysis and machine intelligence, 31(2), 210-227. ↩
3. Yan, J., Zhu, M., Liu, H., & Liu, Y. (2010). Visual saliency detection via sparsity pursuit. IEEE Signal Processing Letters, 17(8), 739-742. ↩
4. Candès, E. J., Li, X., Ma, Y., & Wright, J. (2011). Robust principal component analysis?. Journal of the ACM (JACM), 58(3), 11. ↩
5. Yang, M., Zhang, L., Feng, X., & Zhang, D. (2011, November). Fisher discrimination dictionary learning for sparse representation. In Computer Vision (ICCV), 2011 IEEE International Conference on (pp. 543-550). IEEE. ↩
6. Liu, Y., Liu, C., Tang, Y., Liu, H., Ouyang, S., & Li, X. (2014). Robust block sparse discriminative classification framework. JOSA A, 31(12), 2806-2813. ↩
7. Ma, L., Wang, C., Xiao, B., & Zhou, W. (2012, June). Sparse representation for face recognition based on discriminative low-rank dictionary learning. In Computer Vision and Pattern Recognition (CVPR), 2012 IEEE Conference on (pp. 2586-2593). IEEE. ↩
8. Zhang, Y., Jiang, Z., & Davis, L. S. (2013). Learning structured low-rank representations for image classification. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (pp. 676-683). ↩
9. Chen, C. F., Wei, C. P., & Wang, Y. C. F. (2012, June). Low-rank matrix recovery with structural incoherence for robust face recognition. In Computer Vision and Pattern Recognition (CVPR), 2012 IEEE Conference on (pp. 2618-2625). ↩
10. Pati, Y. C., Rezaiifar, R., & Krishnaprasad, P. S. (1993, November). Orthogonal matching pursuit: Recursive function approximation with applications to wavelet decomposition. In Signals, Systems and Computers. 1993 Conference Record of The Twenty-Seventh Asilomar Conference on (pp. 40-44). ↩
11. Blumensath, T., & Davies, M. E. (2009). Iterative hard thresholding for compressed sensing. Applied and computational harmonic analysis, 27(3), 265-274. ↩
12. Beck, A., & Teboulle, M. (2009). A fast iterative shrinkage-thresholding algorithm for linear inverse problems. SIAM journal on imaging sciences, 2(1), 183-202. ↩
13. Efron, B., Hastie, T., Johnstone, I., & Tibshirani, R. (2004). Least angle regression. The Annals of statistics, 32(2), 407-499. ↩
14. Tipping, M. E. (2001). Sparse Bayesian learning and the relevance vector machine. Journal of machine learning research, 1(Jun), 211-244. ↩
15. Zhang, Y., Jiang, Z., & Davis, L. S. (2013). Learning structured low-rank representations for image classification. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (pp. 676-683). ↩
16. Elhamifar, E., Sapiro, G., & Sastry, S. S. (2016). Dissimilarity-based sparse subset selection. IEEE transactions on pattern analysis and machine intelligence, 38(11), 2182-2197. ↩