范数和距离

在阅读文章的时候经常看到各种范数和各种距离如果数学知识不扎实的话会被搞得晕头转向。实际范数和某些距离是有关系的，而且关系是很明显。

范数：

一般向量范数称为L范数，如$L_1$,$L_2$,$L_p$,$L_\infty$。以上每种范数均有相应的距离：$L_1$距离,$L_2$距离,$L_p$距离，$L_\infty$距离。

1.1，$L_1$范数
定义：$||x||_1=\sum_{i=1}^{n}|x_i|, x=\{x_1,x_2,...x_n\}$;

1.2，$L_1$距离
定义：$L_1(x_i,y_i)=\sum_{i=1}^{n}|x_i-y_i|, x=\{x_1,x_2,...x_n\}，y=\{y_1,y_2,...y_n\}$;
$L_1$距离也叫曼哈顿距离(Manhattan distance)

2.1，$L_2$范数
定义：$||x||_2=\sqrt{\sum_{i=1}^{n}x_i^2}, x=\{x_1,x_2,...x_n\}$;

2.2，$L_2$距离
定义：$L_2(x_i,y_i)=\sqrt{\sum_{i=1}^{n}(x_i-y_i)^2}, x=\{x_1,x_2,...x_n\}，y=\{y_1,y_2,...y_n\}$;
L2距离也叫欧氏距离(Euclidean distance)

3.1，$L_p$范数
定义：$||x||_p=\sqrt[p]{\sum_{i=1}^{n}|x_i|^p}=({\sum_{i=1}^{n}|x_i|^p})^{\frac {1}{p}}, x=\{x_1,x_2,...x_n\}$;
3.2，$L_p$距离
定义：$L_p(x_i,y_i)=({\sum_{i=1}^{n}|x_i-y_i|^p})^{\frac {1}{p}}, x=\{x_1,x_2,...x_n\}，y=\{y_1,y_2,...y_n\}$;
$L_p$距离也叫闵可夫斯基距离(MinkowskiDistance)

4.1，$L_\infty$范数
定义：$||x||_\infty=max_{i=1}^n(|x_i|), x=\{x_1,x_2,...x_n\}$;
4.2，$L_\infty$距离
定义：$L_\infty(x_i,y_i)=max_{i=1}^n(|x_i-y_i|), x=\{x_1,x_2,...x_n\}$;
$L_p$距离也叫切比雪夫距离(Chebyshev Distance)

另外对于关注机器学习的小伙伴，关于范数在机器学习中的使用可以参考博客http://blog.csdn.net/zouxy09/article/details/24971995/