对偶范数

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/itnerd/article/details/83447223

令 ||·|| 为 $\R^n$ 上的范数，定义其对偶范数 $||·||_*$ 的为： $||z||_* = \sup\{z^Tx|\;\; ||x|| \leq 1\}.$上式可以看成如下优化问题的最优值： $maximize_x \;\; z^Tx\\ s.t. \;\;||x|| \leq 1$此外，还有一些等价定义： $||z||_* = \sup_{||x|| \leq 1}z^Tx=\sup_{||x|| = 1}z^Tx=\sup_{x \neq 0}\frac{z^Tx}{||x||}$事实上，对偶范数可以解释成 $z^T$ 的算子范数，即 $1\times n$矩阵 $z^T$ 的诱导范数。

由上述定义我们可以得到对所有 x 和 z 都成立的不等式： $z^Tx \leq ||x||\;||z||_*$
由霍尔德（Hölder）不等式可以直接得出： $l_p-$范数的对偶范数是 $l_q-$范数，其中 $\frac1p+\frac1q=1$： $z^Tx \leq ||x||_p||z||_q\\\Rightarrow ||z||_* =\sup_{x \neq 0}\frac{z^Tx}{||x||_p}=||z||_q$

---

由此可以得出一些简单结论：

• $l_2-$范数的对偶范数是 $l_2-$范数
• $l_1-$范数的对偶范数是 $l_\infty-$范数
• 对偶范数的对偶范数是原范数