现代数学的一个特点就是以集合为研究对象，这样的好处就是可以将很多不同问题的本质抽象出来，变成同一个问题，当然这样的坏处就是描述起来比较抽象，很多人就难以理解了。既然是研究集合，每个人感兴趣的角度不同，研究的方向也就不同。为了能有效地研究集合，必须给集合赋予一些“结构”（从一些具体问题抽象出来的结构）。从数学的本质来看，最基本的集合有两类：线性空间（有线性结构的集合）、度量空间（有度量结构的集合）。
对线性空间而言，主要研究集合的描述，直观地说就是如何清楚地告诉地别人这个集合是什么样子。为了描述清楚，就引入了基（相当于三维空间中的坐标系）的概念，所以对于一个线性空间来说，只要知道其基即可，集合中的元素只要知道其在给定基下的坐标即可。
但线性空间中的元素没有“长度”（相当于三维空间中线段的长度），为了量化线性空间中的元素，所以又在线性空间引入特殊的“长度”，即范数。赋予了范数的线性空间即称为赋犯线性空间。
但赋范线性空间中两个元素之间没有角度的概念，为了解决该问题，所以在线性空间中又引入了内积的概念。
因为有度量，所以可以在度量空间、赋范线性空间以及内积空间中引入极限，但抽象空间中的极限与实数上的极限有一个很大的不同就是，极限点可能不在原来给定的集合中，所以又引入了完备的概念。
完备的内积空间就称为Hilbert空间。
希尔伯特空间名字听上去似乎很难理解，但是真正弄明白其与线性空间之间的关系就会发现并没有那么难。
我们一般接触的是线性空间（向量空间） ，首先看线性空间和各种空间之间的关系：
1.线性空间（向量空间）线性空间又称作向量空间，关注的是向量的位置，对于一个线性空间，知道基（相当于三维空间中的坐标系）便可确定空间中元素的坐标（即位置）；线性空间只定义了加法和数乘运算。
如果我们想知道向量的长度怎么办？—-定义范数，引入赋范线性空间
2.赋范线性空间
定义了范数的线性空间！！
如果我们想知道向量的夹角怎么办？—-定义内积，引入内积空间
3.内积空间
定义了内积的线性空间！！
4.欧式空间
定义了内积的有限维实线性空间！！
如果我们想研究收敛性（极限）怎么办？—-定义完备
5.Banach空间
完备的赋范线性空间！！！
6.Hilbert空间
完备的内积空间！！！（极限运算中不能跑出度量的范围）
他们之间的关系可以用下图表示：
<img src="https://pic3.zhimg.com/50/v2-be26b2ba1df2edc9636647a28b22238d_hd.jpg" data-rawwidth="699" data-rawheight="472" class="origin_image zh-lightbox-thumb" width="699" data-original="https://pic3.zhimg.com/v2-be26b2ba1df2edc9636647a28b22238d_r.jpg">
举个简单的类比例子：我们知道水果是个很大的类别，在水果的基础上加一个限定，如红色的水果，那么想到的可能有苹果、樱桃等，如果在苹果、樱桃两类水果上再加一个限定，例如果实较大，那么想到的便是苹果。 这里水果可以看成线性空间，红色的水果可以看成赋范线性空间，果实较大的红色水果可以看出内积空间。 Hilbert空间便是在线性空间的基础上加入了几个约束或者限定条件！
第二点，希尔伯特空间是一个完备的空间，其上所有的柯西列等价于收敛列，从而微积分中的大部分概念都可以无障碍地推广到希尔伯特空间中。
这一点博客柯西序列可以帮助理解。
内积------->距离-------->柯西列
第三点， 希尔伯特空间为基于任意正交系上的多项式表示的傅立叶级数和傅立叶变换提供了一种有效的表述方式，而这也是泛函分析的核心概念之一。
再生核希尔伯特空间：
<img src="https://pic4.zhimg.com/50/v2-ae2df39d5e6c300a58ba6cad5b079c78_hd.jpg" data-rawwidth="643" data-rawheight="132" class="origin_image zh-lightbox-thumb" width="643" data-original="https://pic4.zhimg.com/v2-ae2df39d5e6c300a58ba6cad5b079c78_r.jpg">
为什么要用核？ （核-------->核本质是一个函数）
SVM -支持向量机原理详解与实践之三<img src="https://pic3.zhimg.com/50/v2-992a3d666a90f179dae21d51eb34fa2c_hd.jpg" data-rawwidth="804" data-rawheight="127" class="origin_image zh-lightbox-thumb" width="804" data-original="https://pic3.zhimg.com/v2-992a3d666a90f179dae21d51eb34fa2c_r.jpg">
高斯核函数的解释？
SVM中，高斯核为什么会把原始维度映射到无穷多维？ - 知乎SVM分类器会用到内积的形式，但不是每个分类器都会用到内积吧，那这样是不是核函数不是很通用呢？