4月3日 今天谈谈支持向量机SVM 与超平面

1、超平面

   n 维空间中的超平面由下面的方程确定:

                         

                                n 维列向量,x 为平面上的点

                             n 维列向量,w 为平面上的法向量,决定了超平面的方向

         b 是一个实数,代表超平面到原点的距离

难理解。。。先看看三维空间xyz

               

空间维度,例如三维就是3个维度

自由度的概念可以简单的理解为至少要给定多少个分量的值才能确定一个点. 例如, 三维空间里的(超)平面只要给定了(x,y,z)中任意两个分量, 剩下的一个的值就确定了. 

超平面:空间维度大于3,且 自由度比空间维度小1

备注:二维空间里的超平面为一条直线. 一维空间里超平面为数轴上的一个点。

百度百科上对超平面的数学定义是这样的:超平面H是从n维空间到n-1维空间的一个映射子空间,它有一个n维向量和一个实数定义。因为是子空间,所以超平面一定过原点。

 推到:对于xy平面(二维空间),点集合 i = (x,y)是直线: 

  • ax + 1/by + c = 0  
  •                    y = -abx  - cb 
  • 容易看出过 (0, -cb) 点,方向向量为 (1, -ab) 的直线 L。
  • 令 t = x,
  •              i (x,y) =   ( t, -abt - cb) 
  •                          = t (1, -ab) + (0, -cb)
  • 进一步,我们令向量 n  =  (a,1/b),则 ax + 1/by + c = 0 可以表示成 n* i + c = 0 
  • 神奇的一刻来临了。
  • 假设在直线 L 上取一点 p0(x0,y0),显然,n* p0 + c = 0,那么 c = -n* p0.
  • 更进一步,将  n* i + c = 0 
  • 可得             n* i-n* p0 = 0 ,
  •  即可         n* (i - p0 ) = 0。

因为 n 和(i - p0 ) 均是向量,(i - p0 ) 在直线 L 上, 所以,n 垂直直线L ,即n为直线L 的法向量。更进一步,我们可以得到,那些与p的差向量与 n 向量正交的点,就是点集 i (x,y).

备注:和向量是两向量和,比如:AB+BC=AC,为AB向量的头减BC向量的尾巴

           差向量是两向量差,比如:AB-BC=CA,为BC向量的尾巴减AB向量的头

进一步解释什么是超平面:

给定向量空间 Rn 中的一个点 P 和一个非零向量n ,满足

                                           n * (i - p)= 0

则称点集 i 为通过点p 的超平面,向量 n为通过超平面的法向量。

Rn 空间的超平面是Rn 空间内的一个 n - 1 维的仿射子空间

备注:

仿射空间是数学中的几何结构,这种结构是欧式空间的仿射特性的推广。在仿射空间中,点与点之间做差可以得到向量,点与向量做加法将得到另一个点,但是点与点之间不可以做加法。

仿射空间是一个点集,它的定义是:

(1)设A为一个点集,A中任意两个有序点P、Q对应于n维矢量空间中的一个矢量a;

(2)设P、Q、R为A中任意三点,P、Q对应于矢量a,Q、R对应于矢量b,则P、R对应于矢量a+b.

具有上面两个性质的点集A就叫做一个仿射空间。

概念理解

从基本数学概念上来说, 一个坐标系对应了一个仿射空间 (Affine Space) , 当矢量从一个坐标系变换到另一个坐标系时要进行线性变换 (Linear Transformation). 对点来说, 要进行仿射变换 (Affine Transformation). 这就是我们利用同源坐标的理由. 它能在对矢量进行线性变换的同时对点进行仿射变换. 坐标变换的基本操作就是将变换矩阵乘以矢量或点.

点到超平面的距离

平面:

样本空间中的任意一点 x,到超平面(w,b)的距离,可以表示为

                                                    

点到超平面上的点为什么这么计算呢?

判断超平面的正反

        一个超平面可以将它所在的空间分为两半, 它的法向量指向的那一半对应的一面是它的正面, 另一面则是它的反面。如果利用数学来判断的话,需要利用到法向量 w。

发布了30 篇原创文章 · 获赞 3 · 访问量 1万+

猜你喜欢

转载自blog.csdn.net/djfjkj52/article/details/89002793
今日推荐